[アップデート] Amazon Bedrock で Writer 社の Palmyra X5, X4 が利用可能になりました
こんにちは!クラウド事業本部コンサルティング部のたかくに(@takakuni_)です。
Amazon Bedrock で Writer 社の Palmyra X5, X4 が利用可能になりました。
AWS からの Blog も公開されています。
Palmyra
Palmyra は Writer 社から提供される LLM です。
Palmyra の中でも種類があり、Amazon Bedrock では Palmyra X5, Palmyra X4 が利用可能になりました。
Palmyra X5
Palmyra X5 は執筆時点で Writer 社が提供する最新のモデルです。大規模なマルチエージェント向けの LLM として登場しています。何よりも特徴的なのが、最大 100 万トークンのコンテキストウィンドウを実現していることです。GPT-4.1 モデルと同じ規模でのトークン数を実現しています。
Palmyra X4
Palmyra X4 は Palmyra X5 の 1 世代前のモデルです。こちらも汎用的なエージェント向けモデルとして紹介されており、ツール呼び出しの精度(ベンチマーク)が高いことがウリのようです。
以前、 Amazon Bedrock Marketplace で提供されていたモデルのようです。
Palmyra X4 was previously available in Amazon Bedrock Marketplace.
Palmyra X4 was previously available in Amazon Bedrock Marketplace.
私も Writer 社のロゴに見覚えがあったので調べてみましたが、他のモデルも提供していた模様でした。
[アップデート] Amazon Bedrock Marketplace が発表されました #AWSreInvent より画像引用
モデルの説明を見てると、基本的には Palmyra X5 を利用していけばよさそうな印象を受けました。
コスト
Palmyra X5, Palmyra X4 のコストに触れていきます。100 万トークン使ったと仮定した場合、Amazon Bedrock 経由で提供する価格と Writer 経由で提供する価格に違いはありませんでした。
モデル名 | 1,000 入力トークンあたりの価格 | 1,000 出力トークンあたりの価格 |
---|---|---|
Palmyra X4 | $0.0025 | $0.010 |
Palmyra X5 | $0.0006 | $0.006 |
言語
Palmyra X5 では 30 言語以上の多言語対応していると記載されています。
Palmyra X5 also supports code generation, structured outputs, and over 30 languages.
日本語に対応しているかどうかは、残念ながらわかりませんでした。
Languages: English, Spanish, French, German, Chinese, and more
Amazon Bedrock との統合
最後に Amazon Bedrock との統合について触れていきます。
リージョンはオレゴンリージョンかつ、推論プロファイル経由で実行可能です。(執筆時点では、バージニア北部から推論プロファイル経由のようなクロスリージョン推論は実行できませんでした。)
モダリティを確認するとテキストを受け取ってテキストを生成するモデルのようです。
続いて、機能面です。API の実行は Converse または InvokeModel で実行可能です。また、ストリーム出力(ConverseStream, InvokeModelWithResponseStream)もサポートしています。Tool Use や Guardrails も利用できると記載されています。
モデル別の機能を見てみます。こちらでは Guardrails がサポートされていないと記載されていますね。どちらが正しいのでしょうか。
やってみる
それでは Amazon Bedrock で Palmyra X5 を利用してみます。今回はコンソール経由で触ってみます。
オレゴンリージョンのコンソールを開き、モデルアクセスを有効化します。
モデルアクセスが許可されたら次に進みます。
Chat から、Palmyra が選択できるようになっていました
今回は、 Palmyra X5 を選択しました。
いくつか日本語でのやりとりをしましたが、流暢に話せていました。
非常に高速なレスポンスが返ってきていることがわかります。(Nova Micro と比較してみました)
最後に Amazon Bedrock Guardrails に紐づけて検証したところ、執筆時点ではエラーになって紐付け出来なさそうな挙動をしていました。
まとめ
以上、「Amazon Bedrock で Writer 社の Palmyra X5, X4 が利用可能になりました。」でした。
新しいサーバレスモデルとして、非常にコンテキスト長の大きさ/レスポンス速度に特化したモデルが利用可能になりました。複数ターンが見込まれるエージェント利用や、文章量の多いドキュメント検索には非常に有用に思えました。
クラウド事業本部コンサルティング部のたかくに(@takakuni_)でした!