ChatGPTのLINEボットを本番運用してみた話

9.3K Views

June 07, 23

スライド概要

シェア

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

関連スライド

各ページのテキスト
1.

LINE Developer Community 【クラウド/ChatGPT etc】LDGQ + LINEDC 勉強会@福岡 ChatGPTのLINEボットを本番運用してみた話 2022.06.03 捧 隆二 1

2.

自己紹介 捧 隆二 (ささげ りゅうじ) ITエンジニア Arahabica @Arahabica1 大学院在学中に大阪でITスタートアップを起業。 上京後、外資系ITコンサル、フィンテック企業を経験。 2019年にボイスアップラボの創業メンバーとして参画。LINE関連 の開発に従事。 LINE BOOT AWARDS 2018 部門賞受賞。2021年よりLINE API Expert。 趣味は温泉めぐり。 2

3.

目次 1. このセッションで共有したいこと 2. ChatGPT APIの公開 3. LINE Botの作成 4. AIチャットくんの衝撃 5. Twitter広告の導入 6. ChatGPT APIの利用制限 7. GPT4 8. その後、どうなったの? 3

4.

このセッションで共有したいこと • ChatGPTのLINEボットの作り方は詳しくは説明しません。 • 実際にボット運用するにあたっての知見 • ChatGPT API解放時の空気感 4

5.

2023/03/02 03:04 5

6.

2023/03/02 03:04 (日本時間) 6

8.

ChatGPT API公開 2023/03/02 03:04 (日本時間) 8

11.

これは革命だぞ... 11

12.

しかも、安い! 12

13.

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 13

14.

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン 値段は10分の1! 性能もめちゃくちゃ改善! • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 14

15.

とりあえず 触ってみるか... 15

16.

まずはLINEで そのまま返すやつを 作ってみよう 16

17.

LINE Botの作成 17

18.

使用技術 • ChatGPT API • 正確にはOpenAI APIのCreate chat completion API • LINE Messaging API • 応答メッセージ API • Firebase • Firebase function (FaaS) • Firestore (DB) 18

19.

制作時間 30分: ChatGPT APIの挙動調査など 30分: LINEとの繋ぎこみ 1時間半: Firestore(DB)に会話を保存する処理など 19

20.

制作時間 30分: ChatGPT APIの挙動調査など 30分: LINEとの繋ぎこみ 1時間半: Firestore(DB)に会話を保存する処理など 3時間: アイコンに使うフリー画像の探索 20

21.

制作時間 30分: ChatGPT APIの挙動調査など 30分: LINEとの繋ぎこみ 1時間半: Firestore(DB)に会話を保存する処理など 3時間: アイコンに使うフリー画像の探索 計5時間半で完成! 21

22.

GPT先生誕生! 22

25.

弱小アカウントが1ツイートした だけとしてはかなり良い方 25

26.

AIチャットくんの衝撃 26

28.

このときは文脈未保存 アイコンはChatGPTそのまま 28

30.

ちょっと悔しいなあ 30

31.

Twitter広告で もう少し 増やしてみるか 31

32.

増やしてから 追加機能でも 考えよう 32

33.

Twitter広告の導入 33

34.

Twitter広告 17,500円投入! 34

36.

5日で友だち数3,000まで増加 36

37.

Twitter広告 37

38.

Twitter広告 クリック単価6円 (相場は25円~100円と言われている) 38

39.

OpenAI API 使用料 39

40.

OpenAI API 使用料 5日で126$ 40

41.

ChatGPT APIの利用制限 41

42.

ChatGPT APIの利用制限 42

43.

ChatGPT APIの利用制限 • リミットが設定可能 • ソフトリミット • 通知メールが飛ぶ • デフォルト値は96$ • ハードリミット • APIが呼べなくなる(エラーになる) • デフォルト値は120$ • 120$以上に設定するには別途申請が必要 43

44.

ChatGPT APIの利用制限 • リミットが設定可能 • ソフトリミット • 通知メールが飛ぶ • デフォルト値は96$ • ハードリミット • APIが呼べなくなる(エラーになる) • デフォルト値は120$ • 120$以上に設定するには別途申請が必要 安心して利用可能! 44

45.

ChatGPT APIの利用制限 • 上限緩和申請 • 3/9 ハードリミットを120$から360$まで上げる申請 • 3/11 申請承認 45

46.

2023/03/15 02:00 (日本時間) 46

48.

GPT-4公開 2023/03/15 02:00 (日本時間) 48

49.

GPT4 49

50.

GPT-4 • Web版 • 月額20$の有料プランで利用可能に • API • ウェイトリストが公開 • GPT-4(8K Context): $0.06 / 1000トークン • GPT-4(32K Context): $0.12 / 1000トークン • GPT-3.5 turbo: $0.002 / 1000トークン 50

51.

GPT-4 • Web版 • 月額20$の有料プランで利用可能に • API • ウェイトリストが公開 • 価格はGPT3.5の30倍~60倍 GPT-4(8K Context): $0.06 / 1000トークン • GPT-4(32K Context): $0.12 / 1000トークン • GPT-3.5 turbo: $0.002 / 1000トークン 51

52.

GPT-4 3/15: ウェイトリストに申請 4/28: GPT-4 利用可能に 52

53.

GPT-4 3/15: ウェイトリストに申請 4/28: GPT-4 利用可能に ➢ 同じ日に複数人利用可能になったと言 うツイートをしていたので、この日か ら順次解放していったぽい 53

54.

その後、どうなったの? 54

55.

結局機能も増やさず、 放置してます 55

57.

OpenAI API 使用料 57

58.

別のサービスを 企画中 58

59.

AI Prompt Apps 59

60.

AI Prompt Apps 60

61.

AI Prompt Apps 複雑なプロンプトを アプリ化して みんなで共有できるサービス 61

62.

トークンの数え方 62

63.

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 63

64.

ChatGPTの料金 • text-davinci • ChatGPT APIの1つ前の世代(ざっくり言うと) • 0.02$ / 1,000トークン • 性能も正直微妙 • ChatGPT API (GPT3.5 turbo) • 0.002$ / 1,000トークン • 性能はWeb版ChatGPTと同じ 64

65.

ChatGPTの料金 • トークン • 英語 • 1単語1トークン • 日本語 • 1ひらがな1トークン • 1漢字は2,3トークン 65

66.

ChatGPTの料金 • トークン • 英語 • 1単語1トークン Open the refrigerator. • 日本語 • 1ひらがな1トークン • 1漢字は2,3トークン 冷蔵庫を開ける。 66

67.

ChatGPTの料金 • トークン 1 • 英語 • 1単語1トークン 4トークン 1 1 1 Open the refrigerator. • 日本語 • 1ひらがな1トークン • 1漢字は2,3トークン 2 13トークン 3 2 1 2 1 1 1 冷蔵庫を開ける。 67

68.

自己紹介 捧 隆二 (ささげ りゅうじ) ITエンジニア 大学院在学中に大阪でITスタートアップを起業。 上京後、外資系ITコンサル、フィンテック企業を経験。 2019年にボイスアップラボの創業メンバーとして参画。LINE関連 の開発に従事。 LINE BOOT AWARDS 2018 部門賞受賞。2021年よりLINE API Expert。 趣味は温泉めぐり。 68

69.

自己紹介 捧 隆二 (ささげ りゅうじ) ITエンジニア 大学院在学中に大阪でITスタートアップを起業。 221トークン 上京後、外資系ITコンサル、フィンテック企業を経験。 約0.06円 2019年にボイスアップラボの創業メンバーとして参画。LINE関連 の開発に従事。 LINE BOOT AWARDS 2018 部門賞受賞。2021年よりLINE API Expert。 趣味は温泉めぐり。 69

70.

まとめ • ChatGPT関連のスピード感凄い • 早さが命ということもある • 各種申請のリードタイム • OpenAI API 上限緩和申請: 2日(参考値) • GPT-4モデル: 1ヶ月半(参考値) • 料金 • GPT-3 turboは革命的安さ • GPT-4はまた高い • 利用制限が設定できるので怖くない • トークンの数え方 • 英語 1単語1トークン 日本語 1文字 1~3トークン 70