危機管理室 江口です。
昨今、各社からいろいろなAIサービスが出てきてますね。
業務での利用について、どのAIサービスを利用するか検討していくなかで、やはり利用規約周りの確認は重要です。特に、
- 入力したデータはサービス提供業者側で保存されるのか
- そのデータは学習に利用され、外部に露出する可能性があるのか
という点は利用の判断のうえで重要ですよね。
以前筆者はOpenAIのデータ利用ポリシーについて、ブログで紹介しました。
ですがOpenAI以外にもいろいろなAIサービスがありますし、OpenAIも利用規約をたびたびアップデートしています。 そこで、このへんで一度いろいろなAIサービスの利用規約を読んでみようと思います。
ということで、まずは手始めにAmazon Bedrockの利用規約（正確にはサービス規約）およびユーザーガイドから、入出力データの利用まわりを中心に気になる点を確認してみました。
TL;DR
要約すると以下の通りです。
- Bedrockでは、入力情報やトレーニングに使用するデータは学習に利用せず、サードパーティにも渡されない。
- 入力については、不正利用の検知のため自動的に確認が行われる。ただしすべて自動的に行われるため人がレビュー、アクセスすることはない。
- 出力したコンテンツはユーザーに帰属する。
主に確認する項目
AI周りの利用規約を確認する場合、おもな興味は以下の点かなと思います。
- 入力した情報はAIの学習に利用されるのか。利用する場合、それが第三者への出力に用いられる可能性はあるのか。
- 入力した情報が学習に利用され、第三者の出力に用いられる可能性がある場合は、入力する情報は第三者に見られても構わない範囲に留めるなどの配慮を考える必要があります。
- 入力した情報を不正利用の確認などの目的でベンダ内の人員が確認する場合があるか。
- 入力情報をベンダ内の人員が確認する場合、上の項目同様入力する情報が外部の人員の目に触れることになるため、入力する情報について考慮・検討する必要があります。
- 出力した情報の権利は利用者に帰属するのか。
- 出力した情報が利用者に帰属しない場合、出力結果の利用方法について考慮が必要となります。
- その他、禁止されている利用用途などの注意事項の確認
上記の観点を中心に見ていきたいと思います。
Bedrockの規約に関するドキュメント
Bedrockに限らず、AWSの各種サービスの規約（Service Terms）は、以下にまとまっています。
日本語訳版も上記リンクから確認できます（言語設定を日本語にした場合。原文は言語設定を英語にすると確認できます）。ただ、翻訳ページの注記にもあるとおり、日本語訳版のリリースは原文から遅れる場合があるので、日本語訳版はあくまで参考にとどめて正確な情報は原文のほうを確認してください。参考までに、2024年1月16日現在では、原文（英語）の最新が2024年1月12日版なのに対して日本語訳版は2023年12月1日版となっています。以下、原文のほうを見ていきたいと思います。
さて、この利用規約では、AWSの各サービスの種類ごとに章分けして規約が書かれており、項目50が「AWS Machine Learning and Artificial Intelligence Services」となっています。この章にAI周りのサービスに関する規約がまとめられています。そのなかでも「50.12.x」が、Amazon Bedrock、およびPartyRockのみを対象とした記述となっています。
50.12. Amazon Bedrock and PartyRock. The following terms apply to Amazon Bedrock and PartyRock:
ですが50.12以外の記述でもBedrockに適用されそうな記述については拾っていきます。 また、上記Service Term以外で、Bedrockのユーザーガイドに詳しい説明がある場合もありました。必要に応じてこのユーザーガイド内の記述も紹介することにします。
では、内容をみていきましょう。
入力情報等のコンテンツの学習への利用
早速ですが、Bedrockでの入力した情報の扱いについては、Service TermよりBedrockのユーザーガイドの記事「Data protection in Amazon Bedrock」に明確に記述されているので、そちらから引用したいと思います。
該当する記載は以下です：
Amazon Bedrock doesn't use your prompts and continuations to train any AWS models or distribute them to third parties. Your training data isn't used to train the base Amazon Titan models or distributed to third parties. Other usage data, such as usage timestamps, logged account IDs, and other information logged by the service, is also not used to train the models.
要約すると - AWS Bedrockではプロンプトの情報をAWSのモデルの学習には利用せず、（モデルを提供する）サードパーティに配布しない - カスタマイズに使用するトレーニングデータについてはAmazon Titanのベースモデルの学習には利用しない。こちらもサードパーティには配布しない - その他の利用に関するデータ（利用した日時など）もモデルのトレーニングには利用しない
ということになります。
Service termでは、ユーザーがカスタマイズしたモデルの保護については50.12.4に記載があります。
50.12.4. Amazon Bedrock may allow you to customize models with data you provide (for example, by fine-tuning). You will have exclusive use of your customized model. Third-party model providers cannot access your customized model. We will not access or use your customized model except as necessary to maintain or provide the Amazon Bedrock Service, or as necessary to comply with the law or a binding order of a governmental body.
上記では第三者のモデル提供者はユーザーのカスタマイズしたモデルにアクセスできないこと、またAWSも原則としてはアクセスしたり利用しないことが記されています。ただし例外として、「Amazon Bedrockサービスの維持もしくは提供に必要な場合、または法律もしくは政府機関の拘束力のある命令に従うために必要な場合」にはアクセスする可能性がある旨が記載されています。
なおプロンプトの入力を学習しない、という点についてはservice termでは直接の明記は見当たらないのですが、50.3でコンテンツをサービスの改善に利用する可能性のあるAIサービスのリストを記載しており、このなかにBedrockは含まれていません。これにより、Bedrockでは入力情報を提供コンテンツを全体のサービス改善のための学習などに利用しない、ということが分かります。 ただ、逆にいえばAWSが提供するAIサービスのうち、Bedrock以外のサービスのいくつかについてはコンテンツが学習に利用される可能性があるので、その他のAIサービスを利用する場合には留意しておきましょう（下記の条文の冒頭で記載されたサービスが対象です）
50.3. You agree and instruct that for Amazon CodeGuru Profiler, Amazon CodeWhisperer Individual (including Amazon Q (Preview) in IDE via CodeWhisperer Individual), Amazon Comprehend, Amazon Lex, Amazon Polly, Amazon Rekognition, Amazon Textract, Amazon Transcribe, and Amazon Translate: (a) we may use and store AI Content that is processed by each of the foregoing AI Services to develop and improve the applicable AI Service and its underlying technologies; (b) we may use and store AI Content that is not personal data to develop and improve AWS and affiliate machine-learning and artificial-intelligence technologies; （以下略）
この記事の本筋ではないので詳しくは触れませんが、上記で学習に利用する可能性があるAIサービスについては、AWS Organizationでポリシーを設定することでオプトアウトが可能と記載されています。詳細な情報は下記の公式ドキュメントをご確認ください。
不正利用などの確認のため、入力情報をベンダ内の人員が確認するか
不正な利用については、自動検出する仕組みがある旨が以下の「Amazon Bedrock abuse detection」というユーザーガイドの記事に記載されています。
当然、システム側で入力情報を確認する、ということにはなるのですが、この不正検知の仕組みは自動化されているため、人の手は介さない（レビューもアクセスもしない）ことが明記されています。
Our abuse detection mechanisms are fully automated, so there is no human review of, or access to, user inputs or model outputs.
このため、この目的のためにベンダ内の人員が入力を確認する、というリスクは考えなくても良さそうです。
出力した情報の帰属
これについてはSerice Terms 50.2に、AIサービスでのアウトプットは利用者のコンテンツ（Your Content）と明記されています。 Bedrockに限らず、AWSのAIサービス全体で共通の事項となります。 注意事項として、アウトプットはユニークではなく、他の利用者に対しても似たようなコンテンツを生成される可能性がある点も記されています。もし自分の生成した出力と他の利用者が出力した結果が似ていたとしても、それはAIサービスの仕組み上仕方ないよ、ということですね。
50.2. The output that you generate using AI Services is Your Content. Due to the nature of machine learning, output may not be unique across customers and the Services may generate the same or similar results across customers.
その他注意事項
禁止されている利用用途
許容する/禁止する利用用途については、AWSの汎用のポリシーとして「AWS Acceptable Use Policy」、AIの責任ある利用のポリシーとして「AWS Responsible AI Policy」で記載されています。
禁止される用途としては、
- 意図的な偽情報の生成
- 他者のプライバシー権を侵害すること
- 安全フィルターや機能の意図的な回避
などが挙げられます。詳細は実際のポリシーをご確認ください。
サードパーティのモデル利用時の注意点
サードパーティのモデルを利用する際は、サードパーティのライセンス規約が追加で適用されます。この点はService termの50.12.1に記述があります。
50.12.1. Third-party models are made available to you as “Third-Party Content” under your Agreement with AWS and are subject to additional third-party license terms specified in Amazon Bedrock, PartyRock, and related documentation. Your access to and use of third-party models on Amazon Bedrock may require your use of AWS Marketplace, and in those cases Section 20 (AWS Marketplace) of the Service Terms apply. Notwithstanding anything to the contrary in the Agreement or Service Terms, for purposes of facilitating your purchases of Amazon Bedrock, Amazon Web Services, Inc. will be the AWS Contracting Party.
なお、以下のDevelopersIOのBedrock解説記事で説明されているように、AWS Bedrockでは各モデルのEULAが確認できます。必要に応じてご確認ください。
おわりに
以上、ざっとBedrockの規約やユーザーガイドで触れられているポリシーについて紹介しました。いろいろなドキュメントの情報を確認する必要があり、まとめるのが大変だなと改めて思いましたが、逆にこうしてまとめることで利用を検討している方の一助になれば幸いです。
ではでは。
4
