Chat GPTに質問できるSlack Botを導入しました

2023.04.10

Chat GPTに質問できるSlack Botを導入しました

こんにちは、ハンズラボシニアテックリードのfjwrです。今日はAIの話をします。
ChatGPTを始めとするチャットAIサービスの隆盛とその発展速度は目を見張るものがあります。
乗るしかない、このビッグウェーブに！ということで、2023年の2月頃から、まずはシンプルなSlackのbotとしてAIを導入しました。

システム構成

構成もシンプルです。AIサービスはOpenAIのAPIを利用します。SlackでBotユーザーに対してメンションすることで質問します。APIのタイムアウトを考慮して、質問は一旦キューに格納後、非同期でOpenAI APIを実行して回答を入手します。最後に、質問者に向けたメンションを付与してWEBHOOKでSlackに投稿します。
実際に動いている様子はこんな感じです。やりとりは専用チャンネルである #ai_questions で行っています。

はい、あまり頭が良いとは言えないですね…。この時点(2023/2)ではまだ GPT3モデルのAPIが利用できず、ChatGPTのような短期記憶領域も持っていなかったため、主に社内での大喜利のネタに使われる程度の存在でした。ところが…。

GPT3モデルにアップデート

2023年3月に入り、OpenAI APIのGPT3モデル(gpt-3.5-turbo)が解禁されました。念願のチャットインターフェース、短期記憶が実装可能になりましたので早速Botの改修を行いました。

基本は同じですが、短期記憶保存用のDynamoDBを追加しました。同じ質問者からの質問を保存し、追加質問の際に参照して Create chat completion API のリクエストに追加します。これにより、ChatGPTと同じようなやりとりが可能になり、使い勝手が劇的に向上しました。実際に動いている様子はこんな感じです。

自己紹介の反応だけ見ても地頭が良くなっていることがわかりますが、前の質問をちゃんと覚えていて、言い方を変えてほしいというリクエストにも正しく答えています(タイポも察してくれています)。2023年4月現在もこの構成で動作しており、業務上判断のアドバイスやサンプルコードの添削など、幅広い用途で利用されています。もちろん大喜利の相手としても引き続き優秀です。

AI Bot導入のメリット

チャットAI自体はわざわざSlackBotにせずともブラウザ上で普通に利用できます。しかし、以下のメリットがあると私は考えています。

社内のAI利用促進

Slackでのやり取りは基本的にオープンチャンネルで実行されるため、各社員とAIとのやりとりは誰でも見ることができます。これにより、AIがどんなものかという理解の共有や、AIに質問をする際のノウハウ(プロンプト)の共有が促進されると考えています。

業務データの取り扱い

OpenAIの規約によるとAPIを利用したリクエストは学習の対象外とするよう明記されています。ブラウザ版ChatGPTではなく、API経由の利用であれば学習・漏洩の心配はないというポリシーです。一般的なプログラムのコードなどであれば入力は問題ないと言えます。しかし念の為、AIの業務利用を検討している場合は、必ず所属している会社の情報管理規約を確認するようにしてください。
ハンズラボでは個人情報などの最重要機密データはAIへの入力を全て禁止する社内規約を設けています。

レスポンスの速さ

2023年4月現在、ブラウザ版Chat GPTを始めとしたサービスは需要の急拡大により軒並みレスポンス速度が低下しているように見受けられます。API経由でのリクエストの場合、装飾や描画演出が不要なためか比較的高速に質問の回答が返ってきています。

終わりに

始めは半信半疑で進めていましたが、いざ実際に動かしてみた際の社内への影響は私の想像をはるかに超えていました。計測はできていませんが、業務効率の改善にある程度の影響があることは間違いないと思われます。GPT4モデルの利用が広く解禁された場合、どのような影響が起こるのか今の私に想像できません。今後はより大規模かつ業務に直結した内容でのAI活用を検討中です。続報にご期待ください。