Generative AI Use Cases JP (GenU)を使ってRAGを体験してみよう（KnowledgeBases編）

はじめに

本エントリはクラスメソッドのコミュニティイベント内で開催した「Amazon Bedrock GenUハンズオン(東京開催) #2：GenU環境でRAGを体験」のハンズオン手順となります。
イベントに参加していない方でも手軽にRAGを体験できますので、ぜひお試しください。

構成

今回作成するリソースは以下の赤枠内の通りです。
GenUで使用できるRAGはKendraとKnowledgeBasesの二種類ありますが、本ハンズオンではKnowledgeBasesを使用したRAGをデプロイします。

1.開発環境の準備

1. 以下のリンクからSageMaker Studioのサンプルリポジトリを開きます。

• aws-samples/sagemaker-studio-code-editor-template

2. README.md内のDeployment (1-click)から任意のリージョンを選択します。

3. スタックのクイック作成画面が表示されたら、パラメータを設定します。
   以下パラメータが設定可能ですが、今回はデフォルト値のまま次に進みます。

4. パラメータの設定が完了したらAWS CloudFormation によって IAM リソースがカスタム名で作成される場合があることを承認します。にチェックを入れ、スタックの作成を押下します。

5. 5-10分ほど待機し、スタックのステータスがCREATE_COMPLETEになっていれば構築完了です。

6. 出力タブからSageMakerStudioUrlをコピーしておきます。
   後続のセクションで使用します。

2.Bedrockモデルの有効化

1. Amazon Bedrock > モデルアクセス に遷移し、モデルアクセスを変更を押下します。
   GenUの初期値として設定されている以下のモデルを選択し、次へに進みます。

1. 選択したモデルが正しいことを確認し、送信を押下します。

2. アクセスのステータスがアクセスが付与されましたになっていれば作業完了です。

3.Code Editorの起動

1. 1.開発環境の準備のセクションでコピーしたSageMakerStudioUrlを開き、SageMaker Studioにアクセスします。
   表示されたポップアップはSkip Tour for nowを選択し閉じてください。

2. 左上のApplicationsからCode Editorを押下します。

3. Code Editor spaceのActionからOpenを押下します。

4. エディタ画面が表示されていれば完了です。

4.GenUのデプロイ

1. 左上のハンバーガーメニューから Terminal > New Terminal の順で遷移し、ターミナルを起動します。

2. ターミナル上で以下コマンドを実行し、GenUのリポジトリをクローンします。

git clone https://github.com/aws-samples/generative-ai-use-cases-jp

3. 左上のハンバーガーメニューから File > Open Folder... の順で遷移し、GenUのフォルダ（/home/sagemaker-user/generative-ai-use-cases-jp/）を開きます。

4. GenUのフォルダが開けたら再度ターミナルを立ち上げ、以下のコマンドでディレクトリを移動します。

cd /home/sagemaker-user/generative-ai-use-cases-jp

5. パッケージをインストールします。

npm ci

6. CDK を利用したことがない場合、初回のみ Bootstrap 作業が必要です。すでに Bootstrap された環境では以下のコマンドは不要です。

npx -w packages/cdk cdk bootstrap

7. 今回はKnowledgeBaesを使用したRAGを有効化するため、オプションの変更を行います。
   /home/sagemaker-user/generative-ai-use-cases-jp/packages/cdk/cdk.jsonを開き、ragKnowledgeBaseEnabledをtrueに変更し、Command + S (Windows では Ctrl + S)で保存します。

8. 続いて、以下のコマンドで AWS リソースをデプロイします。(デプロイが完了するまで20分程度かかる場合があります）

# 通常デプロイ
npm run cdk:deploy

# 高速デプロイ (作成されるリソースを事前確認せずに素早くデプロイ)
npm run cdk:deploy:quick

9. デプロイ完了時にGenUのURLが表示されるので、ブラウザの別タブで開きます。

10. ブラウザでGenUのWebサイトにアクセスできれば完了です。

5.RAGのデータ同期

1. Bedrock > ナレッジベースを開き、generative-ai-use-cases-jpを押下します。

2. データソースの一覧からs3-data-sourceを選択し、同期ボタンを押下します。

3. データソースのステータスがSyncingからAvailableに変わったら同期完了です。

6.GenU(RAG)の動作確認

1. ユーザー名とパスワードを設定し、アカウントを作成します。
   ユーザー名： メールアドレス
   パスワード： 大文字・数字・特殊文字を含む8文字以上の文字列

2. 入力したメールアドレス宛に確認コードが届くので、コードを入力して確定を押下します。（メールが届かない場合は、迷惑メールアドレスの確認やコードの再送信をお試しください）

3. コード認証後、GenUのホーム画面が表示されるので、RAG チャット(Knowledge Base)の試すを押下します。

4. 同期したドキュメントに関する内容をチャットしてみましょう。
   今回使われているのはこちらのドキュメントなので、Bedrockに関する質問をしてみます。

5. ドキュメント内にある情報に関する回答が返ってきたらOKです。
   参照元のリンクを押下する事で実際に参照したドキュメントを開くことができます。

6. 試しにドキュメントにない情報をチャットしてみましょう。

7. 検索結果の中に質問した情報に関する情報は含まれていない旨の回答が生成されたらOKです。

8. 以降はデータソースのS3にお好きなドキュメントを追加・同期して自由に試してみましょう。
   データソースからragknowledgebasestack-datasourcebucketから始まるS3バケットが開けるので、適宜ドキュメントをアップロードしてみてください。

同期に関しては 5.RAGのデータ同期 の手順を再度実施してください。

7.後片付け

必要に応じてリソースの削除を行いましょう。

GenUの削除

1. CodeEditorのターミナルで以下のコマンドを実行することでGenUのリソースを削除できます。

npm run cdk:destroy

SageMaker Studioの削除

1. CloudFormationのスタックを削除することでリソースの削除ができます。