Amazon Bedrock のプロビジョンドスループットにおける最小請求単位を調べてみた
いわさです。
Amazon Bedrock ではモデルをデプロイするための専用キャパシティを確保するためにトークンベースではない時間ベースの「プロビジョンドスループット」という概念があります。
本日時点では米国東部 (バージニア北部) リージョンと米国西部 (オレゴン)リージョンで利用可能です。
料金表には 1 時間あたりの料金単価が記載されています。
なかなかの料金。
そんな中、プロビジョンドスループットの検証を行う機会がありました。
通常のワークロードで使用するのであれば 1 時間以上プロビジョニングすることが想定されそうなので良いと思うのですが、検証の場合は一度きりとか数分とかもう少し短い使用時間の場合があります。
プロビジョンスループットはコミットメントなしでも利用が可能ですが、期間をコミットして割引を受けることも出来ます。
前者の場合は不要になったタイミングでいつでも削除が出来て、後者の場合はコミットした期間内は削除が出来なくなります。期間をコミットするだけで、前払いではないのです。
コミットメントなしの最小請求単位と削除可能タイミングはいつなのか?
今回、とある事情からプロビジョンドスループットを検証に使いたいシーンがありました。
ただ、長期的なコミットは不要で、ほんの数分だけで良かったのです。
プロビジョンドスループットの料金表を見てみると、「モデルごとの1時間あたり価格」と記載されています。
「1時間あたりの単価が記載されているが、秒単位・分単位で料金請求されるサービスも結構あるよなぁ」と思いました。
1 時間 70 ドルであれば、5 分程度で削除すれば、6 ドルとかで済むのでは?と。
大抵の場合、料金表に最小請求単位が記載されているのですが、今回はいまいち読み取れませんでした。
そこで今回は実際に試してみることにしました。
もしかしたら高額請求が発生する可能性もありますが、誰かが試しておく必要があるだろうと言い聞かせて。
やったこと
実施したことは単純でプロビジョンドスループットの作成を行い、作成後数分で削除を行います。
せっかくなのでプロビジョンドスループット作成の様子と、削除の流れもこのブログの中で紹介します。
実施はバージニア北部リージョンで行いました。
プロビジョンドスループットの作成
Amazon Bedrock コンソールをバージニア北部リージョンで開くと、評価と導入というメニューカテゴリ内に「プロビジョンドスループット」というメニューが存在します。
この機能の中で購入済みのプロビジョンドスループットを管理したり、購入や削除を行うことが出来ます。
まずは「プロビジョンドスループットを購入」メニューから購入してみます。
以下の画面で購入するモデルとコミットメント有無を選択します。
次のようにモデルとバージョンを選択します。
今回は Anthoropic が使いたかったのですが、色々なモデルあるいはカスタムモデルがサポートされています。
続いてコミットメント期間を選択します。
モデルによってはコミットメントなしをサポートしていないものもありますのでご注意ください。
ここで選択すると、選択した期間に応じた見積もりコストを確認することも出来ます。
ただ、コミットメントなしの場合は見積もりコストが $0.00 のままですね。これは削除タイミングによって変わりそうか...?
サポートされているモデルと、コミットメントなしの対応状況は以下のドキュメントを確認しましょう。
モデルとコミットメント有無を選択すると購入に進むことが出来ます。
次のように続行確認ダイアログが表示されるのでチェックして確定させます。
「時間単位で請求されること」という記述から秒単位や分単位ではなく最低1時間からのような気もしますね。
確定するとプロビジョンドスループットのプロビジョニングが始まります。プロビジョニングには少し時間がかかります。
Claude 2.1 18K のモデルユニット 1 で、ステータスが稼働中になるまで 10 ~ 15 分くらいかかりました。
プロビジョンドスループットの削除
作成して検証に数分使ったのですぐに削除してみましょう。
もしかしたら数分の料金のみで済むかもしれない。
プロビジョンドスループット画面で削除対象のモデルを選択し、アクションメニューから削除を選択します。
削除確認ダイアログが表示されるので、確定すると即削除されました。削除中などのステータスはなかったですね。
料金を確認してみる
削除の翌日に Cost Explorer から料金を確認してみます。
結論からお伝えすると残念ながら 1 時間分の料金が発生していました。
1 時間未満のプロビジョニング時間でも、1 時間分の料金は発生してしまうようですね。
使用量も確認してみます。
「USE1-MP:USE1_ProvisionedThroughput_NoCommit_ModelUnits_Usage-Units の使用量」として2.00 Units
発生していました。2 つのモデルで確認したので 2 時間分ということですね。
さいごに
本日は Amazon Bedrock のプロビジョンドスループットで、最小請求単位を調べてみました。
結論としては 1 時間未満でも削除は可能ですが、請求は 1 時間分の料金が発生することが確認出来ました。
使用量の名称は「リージョン名_ProvisionedThroughput_NoCommit_ModelUnits_Usage-Units」でした。
同じように短時間だけプロビジョンドスループットを使ってみたいという方はこの料金発生単位について認識しておきましょう。