Amazon Q in Connect セルフサービスで高性能LLMを使用する場合、電話では正常動作するがチャットではエラーが発生する原因
はじめに
以下の記事を参考に、Amazon Q in Connect のセルフサービスにおいて、AIプロンプトタイプ「セルフサービスの回答生成」のLLMをデフォルトのClaude 3 Haiku からClaude 3.5 Sonnet に変更して、自動回答の検証を行っています。
チャネルが電話の場合、問題なく自動回答されましたが、チャットの場合、必ずエラーとなります。
以下のログを確認しましたが、原因が分かりません。
- Connect フローログ
- Q in Connect ログ
- Lex会話ログ
{
"ContactId": "6bb6f41c-3d08-4022-9b79-9c3d8a0d7d29",
"ContactFlowId": "arn:aws:connect:ap-northeast-1:xxxxxx:instance/3ff2093d-af96-43fd-b038-3c07cdd7609c/contact-flow/e9b7c449-5e1f-4a2c-b9af-9d1a4e143dd9",
"ContactFlowName": "cm-hirai-q-in-connect",
"ContactFlowModuleType": "GetUserInput",
"Identifier": "1e79e345-7b31-403f-80ea-9fc535d637ac",
"Timestamp": "2025-05-02T04:53:07.005Z",
"Parameters": {
"NoInputTimeout": "3000",
"TextToSpeechType": "text",
"LexVersion": "V2",
"BotAliasArn": "arn:aws:lex:ap-northeast-1:xxxxxx:bot-alias/A3QN58KMQ7/TSTALIASID",
"Parameter": "x-amz-lex:connect-originating-request-id=b2cf46cf-1aa4-352f-9fdd-5c4297a044c4",
"Text": "お問い合わせ内容をお伝え下さい",
"Voice": "Kazuha",
"MaxSpeechDuration": "12000"
}
},
{
"Results": "Error",
"ContactId": "6bb6f41c-3d08-4022-9b79-9c3d8a0d7d29",
"ContactFlowId": "arn:aws:connect:ap-northeast-1:xxxxxx:instance/3ff2093d-af96-43fd-b038-3c07cdd7609c/contact-flow/e9b7c449-5e1f-4a2c-b9af-9d1a4e143dd9",
"ContactFlowName": "cm-hirai-q-in-connect",
"ContactFlowModuleType": "GetUserInput",
"Identifier": "1e79e345-7b31-403f-80ea-9fc535d637ac",
"Timestamp": "2025-05-02T04:53:23.511Z",
"ErrorDetails": {
"ErrorCode": "InternalFailure",
"Message": "Internal service error occurred"
}
}
{
"assistant_id": "a1793008-f4de-481b-a9ed-3697ef373ff2",
"event_timestamp": 1746161586006,
"event_type": "TRANSCRIPT_CREATE_SESSION",
"session_id": "b47ed53b-2662-4378-b850-cbbbc3270818",
"session_name": "6bb6f41c-3d08-4022-9b79-9c3d8a0d7d29"
}
{
"assistant_id": "a1793008-f4de-481b-a9ed-3697ef373ff2",
"event_timestamp": 1746161589110,
"event_type": "TRANSCRIPT_UTTERANCE",
"session_id": "b47ed53b-2662-4378-b850-cbbbc3270818",
"utterance": "[CUSTOMER] クラスメソッドメンバーズについて教えて下さい",
"session_event_id": "e5b55bf1-d67b-4b2a-9a15-582945f7e046"
}
{
"timestamp": "2025-05-02T04:53:20.386Z",
"requestId": "eba23dee-0b1b-4977-8751-358044765c40",
"messages": [
{
"contentType": "PlainText",
"content": "クラスメソッドメンバーズは、AWSクラウド環境を総合的に支援するサービスです。まず、AWS利用費の割引や技術サポート、請求書発行などを初期費用・月額費用無償で提供する請求代行サービスを基本として提供しています。次に、必要に応じて導入コンサルティングや運用設計、マイグレーションなどの支援も可能です。また、24時間365日の技術サポートとセキュリティの初期設定が標準で含まれており、AWSを安心・安全に活用できる環境を整えています。さらに、4,000社以上の支援実績を持つ専門エンジニアによる高度な技術支援も特徴となっています。 サービスの特徴として、AWS利用費の大幅な割引、エンタープライズ相当のAWSサポートの無償提供、セキュリティ設定の標準装備、そして専門性の高いAWSスペシャリストによる伴走支援が挙げられます。利用方法は、用途に応じて一律割引プラン、EC2・CDN割引プラン、組織管理プランから選択することができ、お客様のニーズに合わせた最適なプランを提供しています。"
}
],
"messageVersion": "2.0",
"dialogEventLogs": [
{
"dialogStepLabel": "Intent/AmazonQinConnect/StartIntent",
"nextStep": {
"dialogAction": {
"type": "FulfillIntent"
}
}
},
{
"message": [
{
"contentType": "PlainText",
"content": "クラスメソッドメンバーズは、AWSクラウド環境を総合的に支援するサービスです。まず、AWS利用費の割引や技術サポート、請求書発行などを初期費用・月額費用無償で提供する請求代行サービスを基本として提供しています。次に、必要に応じて導入コンサルティングや運用設計、マイグレーションなどの支援も可能です。また、24時間365日の技術サポートとセキュリティの初期設定が標準で含まれており、AWSを安心・安全に活用できる環境を整えています。さらに、4,000社以上の支援実績を持つ専門エンジニアによる高度な技術支援も特徴となっています。 サービスの特徴として、AWS利用費の大幅な割引、エンタープライズ相当のAWSサポートの無償提供、セキュリティ設定の標準装備、そして専門性の高いAWSスペシャリストによる伴走支援が挙げられます。利用方法は、用途に応じて一律割引プラン、EC2・CDN割引プラン、組織管理プランから選択することができ、お客様のニーズに合わせた最適なプランを提供しています。"
}
],
"dialogStepLabel": "Intent/AmazonQinConnect/FulfillIntent",
"nextStep": {
"dialogAction": {
"type": "Delegate"
}
}
}
],
"sessionId": "e8b53b56-0e0f-487c-bf45-bc49856cff85",
"requestAttributes": {
"x-amz-lex:q-in-connect-response": "クラスメソッドメンバーズは、AWSクラウド環境を総合的に支援するサービスです。まず、AWS利用費の割引や技術サポート、請求書発行などを初期費用・月額費用無償で提供する請求代行サービスを基本として提供しています。次に、必要に応じて導入コンサルティングや運用設計、マイグレーションなどの支援も可能です。また、24時間365日の技術サポートとセキュリティの初期設定が標準で含まれており、AWSを安心・安全に活用できる環境を整えています。さらに、4,000社以上の支援実績を持つ専門エンジニアによる高度な技術支援も特徴となっています。 サービスの特徴として、AWS利用費の大幅な割引、エンタープライズ相当のAWSサポートの無償提供、セキュリティ設定の標準装備、そして専門性の高いAWSスペシャリストによる伴走支援が挙げられます。利用方法は、用途に応じて一律割引プラン、EC2・CDN割引プラン、組織管理プランから選択することができ、お客様のニーズに合わせた最適なプランを提供しています。",
"x-amz-lex:accept-content-types": "PlainText",
"x-amz-lex:channels:platform": "Connect Chat"
},
"isTestWorkbenchTraffic": false,
"inputMode": "Text",
"operationName": "RecognizeText",
"interpretations": [
{
"intent": {
"name": "AmazonQinConnect",
"state": "InProgress",
"slots": {},
"confirmationState": "None"
},
"interpretationSource": "Lex"
}
],
"developerOverride": false,
"bot": {
"name": "cm-hirai-q-in-connect",
"version": "DRAFT",
"id": "A3QN58KMQ7",
"aliasName": "TestBotAlias",
"aliasId": "TSTALIASID",
"localeId": "ja_JP"
},
"sessionState": {
"sessionAttributes": {
"x-amz-lex:q-in-connect:conversation-status": "READY",
"x-amz-lex:q-in-connect:conversation-status-reason": "SUCCESS",
"x-amz-lex:connect-originating-request-id": "b2cf46cf-1aa4-352f-9fdd-5c4297a044c4",
"x-amz-lex:q-in-connect:session-arn": "arn:aws:wisdom:ap-northeast-1:xxxxxx:session/a1793008-f4de-481b-a9ed-3697ef373ff2/b47ed53b-2662-4378-b850-cbbbc3270818",
"query": "クラスメソッドメンバーズの概要",
"Tool": "QUESTION"
},
"dialogAction": {
"type": "Delegate"
},
"intent": {
"name": "AmazonQinConnect",
"state": "InProgress",
"slots": {},
"confirmationState": "None"
},
"originatingRequestId": "b2cf46cf-1aa4-352f-9fdd-5c4297a044c4"
},
"inputTranscript": "クラスメソッドメンバーズについて教えて下さい",
"missedUtterance": true,
"utteranceContext": {}
}
回答
原因は、Amazon Connect のチャットチャネル専用のタイムアウト制限にあります。
Amazon Connect の機能仕様では「チャット Amazon Lex ボット統合のタイムアウト: 10秒」と定められており、Lex ボットがチャット利用時に10秒以内に応答する必要があります。
チャット Amazon Lex ボット統合のタイムアウト
10 秒
Amazon Lex ボットがチャットを利用する顧客のプロンプトに応答する必要がある最大時間数。
https://docs.aws.amazon.com/ja_jp/connect/latest/adminguide/feature-limits.html#feature-limits-chat
ログから見る時系列
各種ログから、以下の時系列で処理が行われていることが確認できます。
- 04:53:07.005 - Connect: 「顧客の入力を取得する」ブロック開始
- 04:53:09.110 - Q in Connect: 顧客質問「クラスメソッドメンバーズについて教えて下さい」を受信
- 04:53:20.386 - Lex: ボットからの自動回答生成完了(約13秒経過)
- 04:53:23.511 - Connect: 「顧客の入力を取得する」ブロックで Internal service error 発生
Claude 3.5 Sonnet は高性能な反面、応答生成に約11秒を要し、全体の処理時間は約13秒となり、10秒制限を超過してタイムアウトエラーが発生しています。
一方、電話チャネルには応答時間制限が存在しないため、同じボット・同じモデルでも正常に動作します。
解決方法
方法1:タイムアウト設定の緩和
アカウントにおいてチャットにおける Lex ボットの統合タイムアウトを10秒から引き上げるよう AWS サポートに申請します。上限緩和後(例:30秒)、チャットでもエラーが発生しなくなります。
高品質な自動回答を実現したい場合に推奨される方法です。
方法2:軽量モデルへの切り替え
Claude 3.5 Sonnet の代わりに、Nova Lite や Claude 3 Haiku などの軽量モデルに切り替えます。これらのモデルは10秒以内での応答が期待でき、申請不要で即座に対応可能です。
ただし、回答品質がやや低下する可能性があります。
まとめ
Amazon Q in Connect で高性能LLMを使用する際は、チャットチャネルのタイムアウト制限に注意が必要です。高品質な自動回答を実現したい場合は、AWS サポートへのタイムアウト設定緩和申請をお勧めします。