はじめに
追記：2024年3月4日GAされました。
Amazon Lexでは、ノーコードで簡単にRAGのチャットボットを構築できるスロットタイプAMAZON.QnAIntentがプレビューで提供されました。
AMAZON.QnAIntentを利用することで、基盤モデルを企業データに安全に接続して取得拡張生成 (RAG) を行うことができます。
今回のプレビューにおいて、回答で利用できる基盤モデルは、Claude V2のみです。
基盤モデルが顧客の質問に答えるために情報を取得するソース（以降、ナレッジソース）としては、以下の3つから選択できます。
- Amazon OpenSearch
- Amazon Bedrock knowledge base
- 同じくre:Invent 2023期間中にGAされました。ブログもありました
- Amazon Kendra
従来であれば、LexでRAGのチャットボットを構築する場合、ユーザーからのお問い合わせをもとに、KendraやOpenSearchで検索処理し、生成AI（ClaudeやChatGPT）で回答の生成する処理をLambdaでしてました。
今回プレビューされたAMAZON.QnAIntentによって、Lambdaでの処理が不要になり、開発者は、Lexとナレッジソースを用意するのみです。
Lex ボットと併用して、Amazon Connectなどのテキストおよび音声チャネルを通じてよくある質問の回答を無人化（自動化）することも可能です。
以前、Amazon Connect + Lex + Kendra + BedrockのClaudeを利用し、コールセンター向けのRAGのチャットボットを構築しましたので、ご参考ください。
上記では、Lambdaで、KendraやClaudeにリクエストするなど、色々な処理を書いていますが、これが不要になるので楽になりますね。
ただし、回答で利用する生成AIのプロンプトは、開発者側では修正できないため、口調などを変えたい場合などは、従来どおりLambdaを利用する必要があります。
バージニアとオレゴンリージョンのみ、かつ、英語のみプレビューが利用できます。
また、プレビューのため、本番環境では利用しないことをお勧めします。
今回の検証は、バージニアリージョンで行います。
事前準備
- Amazon BedrockでClaudeが利用できるように設定します。
構築
構築する内容は、KendraとLexのみです。
Kendraインデックス
Kendraのインデックス作成は、下記の記事を参考に作成ください。
下記リンクをクローラーに設定しました。Amazon ConnectのAWSドキュメントです。
https://docs.aws.amazon.com/connect/latest/adminguide/amazon-connect-release-notes.html
Lexボット
言語は、英語 (US)でボットを構築します。
構築後、OnA Configurationsの設定で、[Create QnA intent]をクリックします。
組み込みインテントは、AMAZON.QnAIntentです。
インテント名は、faq-testとしました。
インテントが自動作成されました。
あとは、先程作成したKendraをナレッジソースとして選択するのみです。
[Exact Response]は、無効にします。
有効の場合、Kendra から返された正確な応答をボットに返させます。無効の場合、選択した Bedrock モデルが検索結果に基づいて応答を生成します。
[Exact Response]を有効にするには、KendraでFAQ設定する必要があります。設定方法は下記をご参考ください。
なくてもよいですが、回答後に Thank you!と伝えるようにします。
設定後、[Build]すると構築完了です。
試してみる
それでは、Connectのドキュメントをインポートさせているため、Connectの最新情報について質問し、正しく回答するか確認します。
Connectでは、Amazon Qがサポートされているか聞きました。
日本語訳
正しく回答できていますね。
他にも、re:Inventで発表されたアップデートについて聞きました。
日本語訳
日付もドキュメント通りで正しい回答でした。
最後に
今回は、Amazon Lexで、ノーコードで簡単に、RAGのチャットボットを構築できるようになりました。
従来の方法に比べて、Lambdaを利用することなく構築できるので、かなり楽になった印象です。
Connectと連係すると、インターフェースが電話でのRAGのチャットボットも容易に構築可能です。
GAはもちろんのこと、日本語対応にも期待したいです。
7
