【新モデル!】Amazon Nova を試してみた #AWSreInvent
こんにちは、森田です。
現在ラスベガスで開催中の AWS re:Invent 2024 の Keynote にて Amazon 製の新しいモデルとして Amazon Nova が発表されました!
概要
Amazon製の6モデルが発表されました。
- Nova Micro
- Nova Lite
- Nova Pro
- Nova Premier
- Nova Canvas
- Nova Reel
今回発表された Amazon Nova は、以前のTitanモデルとし比較すると精度が高く、そして各プロバイダーから提供されているモデルと遜色ないパフォーマンスを持つモデルとして公開されています。
料金
追って記載
リージョン
バージニア(us-east-1)リージョンの Amazon Bedrock で利用できます。
Nova Micro、Lite、Pro モデルは、クロスリージョン推論を介してオレゴン、オハイオリージョンでも利用可能です。
やってみた
本記事では、バージニア(us-east-1)リージョンで実際にモデルの有効化、プレイグラウンド、API実行をやってみます。
モデルの有効化
以下のURLにアクセスすると、「Novaモデル」が表示されています。
https://us-east-1.console.aws.amazon.com/bedrock/home?region=us-east-1#/modelaccess
チェックを入れてモデルの有効化を行います。
プレイグラウンドから実行してみる
以下のURLからプレイグラウンドを開きます。
https://us-east-1.console.aws.amazon.com/bedrock/home?region=us-east-1#/text-generation-playground
「モデル選択」をクリックすると、「Novaモデル」の選択が可能です。
本検証では、「Nova Micro」を選択します。
続いて、プロンプトを入力します。
今回は、「10*30の結果を教えて」を入力しました。
すると以下のように数値計算の結果を返してくれます。
回答内容
10と30を掛けた結果は、以下のように計算できます:
[ 10 \times 30 = 300 ]
なので、10と30の積は300です。
API実行
Converse API
Converse APIも対応しています。
import boto3
client = boto3.client("bedrock-runtime", region_name="us-east-1")
modelId = 'amazon.nova-micro-v1:0'
prompt = "10*30の結果を教えて"
messages = [
{
"role": "user",
"content": [{"text": prompt}],
}
]
inferenceConfig = {
"temperature": 0.1,
"topP": 0.9,
"maxTokens": 500,
"stopSequences":[]
}
response = client.converse(
modelId=modelId ,
messages=messages,
inferenceConfig=inferenceConfig
)
print(response["output"]["message"]["content"][0]["text"])
まとめ
APIでも Nova モデルを呼び出してみましたが、Converse APIが対応していることもあり、比較的簡単に利用できます。
最も回答精度の高い Nova Premier については、今後リリース予定ですので、楽しみに待ちたいと思います。