手軽にRAG（のようなもの）に対応したチャットボットを作れるZendeskのAIエージェントを試してみる

こんにちは、ゲームソリューション部の入井です。
今回は、RAGのような機能を持ったチャットボットを簡単に作成できるZendeskのAIエージェント機能についてご紹介します。

RAGとは

RAGは、ChatGPTなどの大規模言語モデル（LLM）の回答を最適化する仕組みです。Retrieval-augmented generationの略で、日本語では「検索拡張生成」と呼ばれています。

LLMは学習済みの内容しか正しく回答できず、学習していない内容について聞かれると、嘘や間違った情報を本当のように回答する、いわゆるハルシネーションという現象を起こすことが利用上の注意点としてよく言われています。

RAGは、この問題を解決するために開発された技術で、LLMに学習済み以外の情報を追加で渡すことで、LLMが知らないことについての質問でも正しい回答を行えるようになります。
RAGを導入することで、あまり有名でない製品の使い方といった元のLLMでは学習していない可能性が高い内容や、社内の経理申請手順などの非公開情報についての質問も、あらかじめ正しいデータソースが与えられていれば回答できるようになります。

RAGの仕組みを作るのは大変

非常に便利なRAGは、生成AI技術を業務の効率化に活かす具体的な手段として注目されていますが、導入するためには課題があります。それは、RAGの仕組みを導入するにはある程度の労力と技術的知見が必要となるという点です。

RAGによって独自の回答を生成できるようにするには、LLMへ渡すプロンプトにユーザーの質問だけでなくその質問に関連する情報を付ける必要があります。そして、質問の関連情報を作成するには、独自のデータソースと関連付けたAmazon Kendraなどの検索サービスの利用が必要で、これらの環境をクラウド技術等への知見無く整えるのは難しいです。

最近では、DifyのようなRAG環境作りを簡略化できるツールも出てきていますが、それでもある程度の技術的スキルが求められます。

RAGは顧客サポートの現場などで力を発揮しやすいですが、例えばコールセンター等のマネージャーが業務効率化を図るためにRAGの仕組みを導入してみようと思っても、上記のような課題から気軽に試す事は難しいのが現状です。

ZendeskのAIエージェントの回答生成機能

上記のような課題を解決できるのがZendeskのAIエージェント機能です。この機能を使えば、特に専門知識が無くてもRAGのような機能を持つチャットボットを作ることができます。

AIエージェントとは、ZendeskのAIボット機能の名称であり、いくつか持つ機能の中に自動回答生成機能が含まれています。この機能は、ユーザーからの質問に対して、Zendeskで事前に作成したFAQサイト記事の内容を基に自動的にボットが回答を生成します。これにより、特定の商品の使い方といった具体的な質問にも対応可能なボットを簡単に作ることができます。

ただ、RAGの「ような」機能と上で書いたのは、よく言われるRAGと比較すると機能に制限があるからです。例えば、データソースがZendeskのFAQ記事に限定されており、他の情報源を学習させることはできません。また、FAQサイト記事に回答のための情報が無い質問や、あからじめ設定した対応フローに無い対応をすることはできないという制限もあります。

実際に試してみる

AIエージェント機能がどのように回答を生成するのか、実際のZendesk環境を使って試してみます。

まず、Zendeskで作成したFAQサイトには以下のような記事が作られているとします。内容としては、ZendeskのFAQを他の言語に対応させる方法について書かれています。

続いて、回答生成に対応したチャットボットを作成してみます。

管理センターを開き、チャネル->ボットと自動化->ボットを開きます。
ボットの設定画面では「ボットを管理」をクリックし、会話ボット設定画面が開いたら「ボットを作成」をクリックします。

最初に、基本的な内容としてボット名と関連付けるFAQサイトブランドを指定します。名前は任意の内容で構いませんが、ブランドについては回答させたいFAQ記事が入っているブランドを指定します。

言語の設定ではボットに対応させたい言語を選択します。

最後に生成AI関係の設定です。「生成AI機能を有効にする」にチェックを付けることで、ボットが回答の生成を行うようになります。

作成が完了するとボットの詳細画面が開きます。「ボットをテスト」をクリックし、ボットがFAQ記事を元にした回答を行えるか確認します。

先ほどの記事内容に関連する質問を入力すると、その記事を元にした回答が生成されることが確認できました。「続きを読む」をクリックすると、回答の元になった記事へ遷移することができます。

なお、チャットボットを実際に利用する際は、ZendeskのFAQサイト上に表示させることもできますし、自動生成されるHTMLコードを使用することで任意のWebサイトにチャットボットを設置することもできます。

AIエージェントの料金体系の注意点

AIエージェントの利用には料金面での注意点があります。機能の使用量が多くなると追加費用が発生する可能性があります。

費用発生のための基準として「自動解決数」というものがあり、これは人を介在せずボットの力だけでユーザーの問い合わせへの対応を完了した際にカウントされる仕組みになっています。

Zendeskの各プランには、月ごとに無料で使用できる自動解決数の上限が設定されており、それを超えると追加費用が発生します。ただし、事前に低単価で自動解決数の枠を購入しておくこともできます。

具体的な費用や自動解決数カウントの条件等は以下のページを参照してください。
AIエージェントの自動解決について – Zendeskヘルプ

まとめ

今回の記事では、以下のような内容について紹介をしました。

• RAG（Retrieval-augmented generation）は、LLMの回答を最適化する強力な技術だが、導入にはある程度の技術的な知見が必要となる
• ZendeskのAIエージェント機能は、専門知識がなくてもRAGのような機能を持つチャットボットを簡単に作成できる
• AIエージェントは、事前に作成したFAQサイト記事を基に自動的に回答を生成する
• 利用には料金面での注意が必要で、「自動解決数」に基づいて追加費用が発生する可能性がある