[アップデート] Amazon Bedrock Guardrails の画像コンテンツフィルター機能が一般提供を開始しました

こんにちは！クラウド事業本部コンサルティング部のたかくに（@takakuni_）です。

Amazon Bedrock Guardrails の画像コンテンツフィルター機能が一般提供を開始しました。

https://aws.amazon.com/jp/about-aws/whats-new/2025/03/amazon-bedrock-guardrails-general-availability-image-content-filters/

一般提供に合わせて AWS Blog も投稿されています。

https://aws.amazon.com/jp/blogs/machine-learning/amazon-bedrock-guardrails-image-content-filters-provide-industry-leading-safeguards-helping-customer-block-up-to-88-of-harmful-multimodal-content-generally-available-today/

画像コンテンツフィルター

画像コンテンツフィルターは re:Invent 2024 で発表された機能の1つです。Amazon Bedrock Guardrails のチェックに画像もサポートされたと言った内容で、マルチモーダルなガードレールはとても印象的でした。

https://dev.classmethod.jp/articles/amazon-bedrock-guardrails-multimodal-toxicity-detection-preview/

https://aws.amazon.com/jp/blogs/news/amazon-bedrock-guardrails-now-supports-multimodal-toxicity-detection-with-image-support/

画像内の内容および、画像に含まれるテキストに対してコンテンツフィルタリングを行う機能です。

一般提供でのアップデート

一般提供される前後でいくつかアップデートがあったため、ご紹介します。

リージョンでプレビュー可否が異なる

まず初めに、本機能が一般提供されたリージョンは、バージニア北部、オレゴン、フランクフルト、東京の 4 リージョンです。

その他、Amzon Bedrock Guardrails をサポートしているリージョンは引き続きパブリックプレビューな段階です。

本エントリは便宜上、一般提供されたリージョンのことを GA リージョン、プレビュー段階にあるリージョンをプレビューリージョンと称します。

サポートされるカテゴリ

プレビューでは、ヘイト、侮辱、性的、暴力の 4 カテゴリでしたが、GA リージョンでは 6 カテゴリまでサポートされるようになりました。この 6 カテゴリはテキストフィルタリングと同じ基準でチェックできるようになったことを意味します。

• ヘイト
• 侮辱
• 性的
• 暴力
• 不正行為（NEW!）
• プロンプト攻撃（NEW!）

プレビューリージョンでは引き続き、ヘイト、侮辱、性的、暴力の 4 カテゴリを利用できます。

モデル

プレビュー時は以下のモデルで動作する旨が記載されていました。

• Amazon Titan Image Generator G1 v2
• Amazon Titan Image Generator G1
• Anthropic Claude 3 Haiku
• Anthropic Claude 3 Opus
• Anthropic Claude 3 Sonnet
• Anthropic Claude 3.5 Sonnet
• Meta Llama 3.2 11B Instruct
• Meta Llama 3.2 90B Instruct
• Stability AI Stable Image Core 1.0
• Stability AI Stable Image Ultra 1.0

一般提供に際し、モデルの利用制限はなくなりました。

こちらの機能差に関しては、ドキュメントから記載がなくなったため、GA リージョン、プレビューリージョンともに適用された機能変更と想像できます。

機能制限

その他、前提条件を記載します。

• 動画が埋め込まれた画像には対応していない（動画をサポートしていない）
• 画像の最大サイズは 8000x8000（JPEGファイルとPNGファイルの両方）
• 最大4MBまでの画像をアップロード可能
• 1回のリクエストで最大20枚の画像をアップロード可能
• デフォルトの上限は1秒あたり25枚です。この値は緩和できない
• PNG と JPEG 形式をサポート

https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-mmfilter.html

やってみる

それでは一般提供された画像コンテンツフィルターをトライしてみます。東京リージョンで試していますが、 Image の列がすべてのカテゴリに対応していますね。

マネジメントコンソールから、画像のアップロードを行います。

プレビューで画像の内容を再度確認できるようです。

想定通り、侮辱的な内容が検出されていますね。

まとめ

以上、「Amazon Bedrock Guardrails の画像コンテンツフィルター機能が一般提供を開始しました。」でした。

引き続き日本語への対応が待ち遠しい本機能ですが、AI ガードレールとしては欲しい機能が追加されてきており、非常に素晴らしいですね。

このブログがどなたかの参考になれば幸いです。クラウド事業本部コンサルティング部のたかくに（@takakuni_）でした！