Amazon Bedrock が GA されたのでモデルのプロバイダー概要と料金体系を調べてみた

コーヒーが好きな emi です。

Amazon Bedrock が GA されましたので、気になるのはどんなモデルが使えるのかと、お値段です。以下のページで Amazon Bedrock の料金を確認しつつ、モデルのプロバイダー概要と読み方を調べてみました。

価格モデル

Amazon Bedrock には 3 種類の価格体系があります。用途に応じて価格体系を選択できます。

オンデマンド

お馴染みの従量課金です。個人でちょっと利用するだけ、月々どれくらいの利用が発生するか検討がつかない場合はオンデマンドから始めるのがよいです。

• 使用した分だけの請求
• テキスト生成モデルの場合入出力トークンごと、イメージ生成モデルの場合生成されるイメージごとに料金が発生
  • トークンとは
    • モデルがユーザー入力を理解し、結果の生成を促すために学習する基本単位のこと
    • いくつかの文字で構成される

モデルのカスタマイズ（微調整）

Amazon Bedrock はベースとなる基盤モデルに追加で学習させることが可能です。カスタマイズされたモデルはオンデマンドでは利用できず、プロビジョンドスループットでのみ利用可能です。追加学習時に処理されたトークン数のほか、モデルストレージ料金がかかります。

• モデルごとにモデルストレージ料金がかかる
• 追加学習時に処理されたトークンの数 (トレーニングデータコーパス内のトークン数 x エポック数) に基づいて課金される
  • コーパス：大量の文章を構造化し、データベース化したもの
  • エポック数：一つの訓練データを何回繰り返して学習させるか
• プロビジョンドスループットのみ利用可能
  • プロビジョンドスループットのコミットメント期間なしで利用可能なのは 1 モデルユニットのみ
• 1 モデルユニットより増やしたい場合は、1 ヶ月または 6 ヶ月のコミットメント期間のプランを購入する必要がある

プロビジョンドスループット

一定のスループットが必要な、大規模で一貫した推論ワークロード向けに設計されています。Reserved Instance を購入する時のように、コミットメント期間によって料金が変わります。

• 特定のベースモデルまたはカスタムモデルのモデルユニットを購入可能
• 1 分あたりに処理される入出力トークンの最大数によって、測定される特定のスループットを提供する
• コミットメント期間（1 か月または 6 か月）に応じて時間単位で課金される料金が変動する

AI21 Labs（エーアイ21ラボズ）

イスラエルのテルアビブに拠点を置く企業が提供するモデルです。

オンデマンド

AI21 Lab モデルではモデルのカスタマイズとプロビジョンドスループットはまだサポートされていません。

料金例

• Jurassic-2 Mid モデルで、10,000 トークンの入力テキストを 2,000 トークンの出力に要約するようリクエストする場合
  • 発生する総コスト = (10,000 トークン/1,000) × 0.0125 ドル + (2,000 トークン/1,000) × 0.0125 ドル = 0.15 ドル ≒ 22.35円（1 ドル 149 円の場合）

Amazon（アマゾン）

Amazon が提供している Amazon Titan（アマゾンタイタン）というモデルが利用できます。

オンデマンド

モデルのカスタマイズ

※トレーニングされたトークンの合計 = トレーニングデータコーパス内のトークンの数 × エポック数

プロビジョンドスループット

料金例

• オンデマンド
  • Titan Text – Lite モデルで 8,000 トークンの入力を 2,000 トークンの出力に要約するようリクエストする場合
  • 発生する総コスト = 8,000 トークン/1000 × 0.0003 ドル + 2,000 トークン/1000 × 0.0004 ドル = 0.0032 ドル ≒ 0.5円（1 ドル 149 円の場合）
• プロビジョンドスループット
  • Titan Text – Express の 2 つのモデルユニットを 1 か月のコミットメントで購入し、テキスト要約のために使用する場合
  • 毎月発生する合計コスト = 2 モデルユニット × 18.40 ドル/時間 × 24 時間 × 31 日 = 27,279.20 ドル ≒ 4,064,600円（1 ドル 149 円の場合）

Anthropic（アンスロピック）

AWS が最大 40 億ドルの投資すると発表があった AI 企業、Anthropic のモデルです。
Expanding access to safer AI with Amazon

オンデマンド

プロビジョンドスループット

Cohere（コーヒア）

カナダの AI 企業です。Oracle は Cohere のモデルで生成 AI を提供しています。

オンデマンド

Cohere モデルではモデルのカスタマイズとプロビジョンドスループットはまだサポートされていません。

Stability AI（スタビリティエーアイ）

画像生成 AI の Stable Diffusion や 音声生成 AI の Stable Audio 開発したことで知られる英国の企業です。

他のモデルとは少し料金体系が変わっています。

オンデマンド

Stability が提供する画像モデルは、ステップ数と画像解像度に応じて画像ごとに価格が設定されます。

プロビジョンドスループット

Stability AI モデルではモデルのカスタマイズはまだサポートされていません。

料金例

• オンデマンド
  • SDXL モデルで、ステップサイズ 70（プレミアム品質）で 512 x 512 の画像を生成する場合
  • 発生する総コスト = 1 画像 × 0.036 ドル = 0.036 ドル ≒ 5.4円（1 ドル 149 円の場合）
• プロビジョンドスループット
  • SDXL1.0 の 1 つのモデルユニットを 1 か月のコミットメントで購入する場合
  • 発生する総コスト = 1 × 49.86 ドル × 24 時間 × 31 日 = 37,095.84 ドル ≒ 5,527,280円（1 ドル 149 円の場合）

おわりに

Amazon Bedrock で提供される価格体系やモデル名の読み方を調べてみました。
プロビジョンドスループットで購入する場合はガツンと料金がかかる印象ですが、個人でちょっとオンデマンド利用する分にはかなり安価なのではないでしょうか。
どなたかのお役に立てば幸いです。