Gemini Decision 1 で書類の値を突合し、Jev・Decisions API と比べてみた
こんにちは、けーまです。
値の一致チェックは、これまで正規表現やスクリプトで頑張っては、表記揺れや例外対応でエンジニアを悩ませてきました。
かといって一般的なLLMに任せると、柔軟に判定できる一方で処理に時間がかかり、API呼び出しコストもかさみます。
そうした課題に対して、文章を生成せず判定と確率値だけを返す decision model は、スピードとコストの両面を解決できる選択肢として注目されています。
ただ、これまで検証してきた decision model の中には、出力される確率が 0 や 1 に極端に張り付いてしまい、中間がほとんど出ないものもありました。「この確率って本当に適切なの?」と疑問に思うことも少なくありません。以前試した中では、TypeSafe の Jev は確率が 0 と 1 の間にも程よく散らばり、判断に迷ったケースを確率の低さから見分けられていました(OpenAI の Decisions API で書類の値の突合を試し、Jev・Clef と比べてみた | DevelopersIO)。
そこで本記事では、2026年11月11日に Google から新たに登場した「Gemini Decision 1」を使い、同様の突合タスクでどのような挙動を示すのか調査してみました(検証日は 2026年11月13日です)。
正答数だけでなく、Jev や Decisions API と比較して出力される確率が 0 や 1 に極端に張り付いてしまわないかどうかも中心に整理しています。
1. 検証の方法
1.1 データ
書類の項目の値を2つ並べたペアを107件用意しました。
次のような、判断に迷いやすいケースを意図的に混ぜています。
-
日付の書き方の違い(
Sep 12, 2026と12/09/2026) -
数値の区切りの違い(
1.250,00と1,250.00) -
会社名・住所の日英の表記の違い
-
OCR の誤読(
1,25O.00の O) -
値が無いことの表現の違い(空欄・
N/A・該当なし) -
合計と明細の照合(
合計 500 KGと明細: 500 KG / 500 KG)
各ペアに対して、次の2つの質問を日本語で投げかけました。
-
完全一致:値Aと値Bは、文字列として完全に同一か
-
意味の一致:値Aと値Bは、表記が違っていても同じ値を指しているか
1.2 リクエスト
3つのモデルに、同じ値・同じ質問文を送信しました。
Gemini Decision 1 は、noul の質問に criteria(yes と no の条件)を付けると受け付けないため、条件を質問文の後ろに書き足しています(Decisions API も同じ扱いです)。
{
"model": "gemini-decision-1",
"input": "{\"値A\": \"1,250.00\", \"値B\": \"1250\"}",
"questions": {
"exact": {
"type": "noul",
"instructions": "値Aと値Bは、文字列として完全に同一か。空白・記号・大文字小文字・全角半角の違いも「同一ではない」と扱う。\n「はい」となる条件:1文字も違わず完全に同じ\n「いいえ」となる条件:1文字でも違う"
},
"semantic": {
"type": "noul",
"instructions": "値Aと値Bは、表記が違っていても同じ値を指しているか。これは2つの書類の同じ項目を突合している場面での判断である。片方が明細の羅列で、もう片方が合計値の場合は、明細をすべて足し合わせてから合計値と比べること。\n「はい」となる条件:書式・言語・単位・略記の違いだけで、指している値は同じ。または明細の合計が合計値と一致する\n「いいえ」となる条件:指している値そのものが違う、または片方にしか値がない。または明細の合計が合計値と一致しない"
}
}
}
Jev は同じ内容を state と criteria で、Decisions API は predicate 型で送信しました。
検証では、ケースごとに3つのモデルを順番に呼び出しています。
1.3 指標
-
正答数:yes の確率が 0.8 以上なら「同じ」と判定し、正解と照らし合わせた数
-
すり抜け:本当は違う値なのに「同じ」と判定した数。横突合では一番避けたい誤り
-
確率がちょうど 0 か 1 の件数:多いほど、迷ったケースを確率で見分けにくい
-
料金:1ドル150円で換算
2. 結果
2.1 正答数と速度・料金
| 項目 | Gemini Decision 1 | Jev | Decisions API |
|---|---|---|---|
| 完全一致の正答 | 105/107 | 106/107 | 107/107 |
| 意味の一致の正答 | 94/106 | 100/106 | 96/106 |
| 意味の一致のすり抜け | 3 | 1 | 3 |
| 応答時間の中央値 | 約0.54秒(538ms) | 約0.23秒(227ms) | 約0.34秒(335ms) |
| 入力トークン(1件平均) | 348 | 607 | 557 |
| 107件の料金 | $0.0037(約0.56円) | $0.0027(約0.41円) | $0.0060(約0.89円) |
意味の一致については、Jev がもっとも高い正答数となり、すり抜けもわずか1件でした。
Gemini Decision 1 は入力トークン数こそ最も少なかったものの、単価が Jev の約2.4倍のため、料金は Jev より少し高くなりました。
2.2 確率の散らばり
意味の一致の確率を、正解が「同じ」の69件と「違う」の37件に分けてプロットしました。私が一番気にしているのはここです。Decisions APIは過去に実施した時、0や1に張り付きました。
点1つが値のペア1件を表しており、破線はしきい値の 0.8 です。

意味の一致の確率(日本語の質問文、106件)
| 確率の範囲 | Gemini Decision 1 | Jev | Decisions API |
|---|---|---|---|
| 0.05 未満 | 20 | 15 | 31 |
| 0.05〜0.2 | 13 | 9 | 4 |
| 0.2〜0.8 | 10 | 17 | 6 |
| 0.8〜0.95 | 12 | 15 | 4 |
| 0.95 以上 | 52 | 51 | 62 |
| ちょうど 0 か 1 | 0 | 0 | 83 |
おーーーー、decision model では Jev 以来となる、それっぽい確率が出ています!
0 や 1 には張り付いていませんね。
中間層もそれなりにあります。
2.3 しきい値を変えたとき
しきい値を変えてみたところ、意味の一致の正答数とすり抜け件数は次のように変化しました(正答/すり抜け)。
| しきい値 | Gemini Decision 1 | Jev | Decisions API |
|---|---|---|---|
| 0.5 | 96/4 | 97/6 | 97/4 |
| 0.7 | 94/3 | 98/3 | 96/3 |
| 0.8 | 94/3 | 100/1 | 96/3 |
| 0.9 | 95/1 | 93/1 | 96/2 |
| 0.95 | 87/1 | 87/0 | 94/2 |
Gemini Decision 1 は、しきい値を 0.9 に引き上げるとすり抜けが1件に減り、正答数も95件へと向上しました。
2.4 Gemini Decision 1 が外したケース
意味の一致で Gemini Decision 1 が外した12件のうち、すり抜けとなってしまった3件は次のとおりです。
| 値A | 値B | 正解 | Gemini Decision 1 | Jev | Decisions API |
|---|---|---|---|---|---|
1,25O.00 |
1,250.00 |
違う(O の誤読) | 0.86 | 0.73 | 0.84 |
合計 500 KG |
明細: 500 KG / 500 KG |
違う(明細の合計は 1000) | 0.97 | 0.56 | 0.35 |
1,250.00 |
1,250.00 USD |
違う(片方に通貨がない) | 0.88 | 0.91 | 1.00 |
3. 全件の結果
太字は、しきい値 0.8 で外したものです。
| ID | 種類 | 値A | 値B | 正解(意味) | Gemini | Jev | Decisions API |
|---|---|---|---|---|---|---|---|
| 1-1 | 完全一致 | INV-2026-0912 | INV-2026-0912 | 同じ | 0.98 | 0.98 | 1.00 |
| 1-2 | 完全一致 | 1,250.00 | 1,250.00 | 同じ | 0.98 | 0.98 | 1.00 |
| 1-3 | 完全一致 | ACME TRADING CO., LTD. | ACME TRADING CO., LTD. | 同じ | 0.98 | 0.98 | 1.00 |
| 1-4 | 完全一致 | SEAMLESS CARBON STEEL PIPE, OUTER DIAMETER 50MM, WALL THICKNESS 3.5MM, LENGTH 6000MM, SURFACE BLACK PAINTED, PACKED IN WOODEN CRATE, MANUFACTURED UNDER SPECIFICATION JIS G3454 SGP, LOT CONTROLLED, INSPECTION CERTIFICATE ISSUED BY MILL, ORIGIN JAPAN | SEAMLESS CARBON STEEL PIPE, OUTER DIAMETER 50MM, WALL THICKNESS 3.5MM, LENGTH 6000MM, SURFACE BLACK PAINTED, PACKED IN WOODEN CRATE, MANUFACTURED UNDER SPECIFICATION JIS G3454 SGP, LOT CONTROLLED, INSPECTION CERTIFICATE ISSUED BY MILL, ORIGIN JAPAN | 同じ | 0.96 | 0.98 | 1.00 |
| 1-5 | 完全一致 | STEEL PIPE SEAMLESS 50MM | STEEL PIPE SEAMLESS 50MM | 同じ | 0.98 | 0.98 | 1.00 |
| 1-6 | 完全一致 | ACME TRADING | ACME TRADING | 同じ | 0.97 | 0.97 | 1.00 |
| 1-7 | 完全一致 | DOC-O0O12345 | DOC-O0O12345 | 同じ | 0.97 | 0.97 | 1.00 |
| 1-8 | 完全一致 | 1,250.00 | 1,250.00 | 同じ | 0.97 | 0.98 | 1.00 |
| 1-9 | 完全一致 | Sep 12, 2026 | Sep 12, 2026 | 同じ | 0.98 | 0.98 | 1.00 |
| 2-1 | 日付 | 2026/09/12 | 2026年9月12日 | 同じ | 0.98 | 0.99 | 1.00 |
| 2-2 | 日付 | 12-SEP-2026 | 2026-09-12 | 同じ | 0.98 | 0.98 | 1.00 |
| 2-3 | 日付 | Sep 12, 2026 | 12/09/2026 | 同じ | 0.56 | 0.56 | 0.81 |
| 2-4 | 日付 | 令和8年9月12日 | 2026-09-12 | 同じ | 0.98 | 0.89 | 1.00 |
| 2-5 | 日付 | 03/04/2026 | 2026-04-03 | 同じ | 0.20 | 0.80 | 0.54 |
| 2-6 | 日付 | 03/04/2026 | 2026-03-04 | 対象外 | 0.87 | 0.97 | 0.97 |
| 2-7 | 日付 | 2026/09/12 | 2026/09/13 | 違う | 0.05 | 0.04 | 0.00 |
| 2-8 | 日付 | 2026/09/12 | 2025/09/12 | 違う | 0.03 | 0.02 | 0.00 |
| 2-9 | 日付 | 2026年9月12日 | 2026年9月12日 | 同じ | 0.99 | 0.98 | 1.00 |
| 2-10 | 日付 | 12-SEP-2026 | 12-SEP-2026 | 同じ | 0.98 | 0.98 | 1.00 |
| 2-11 | 日付 | 令和8年9月12日 | 令和8年9月12日 | 同じ | 0.98 | 0.98 | 1.00 |
| 2-12 | 日付 | 2026/09/12 | 2026/12/09 | 違う | 0.11 | 0.02 | 0.00 |
| 2-13 | 日付 | 令和8年9月12日 | 令和7年9月12日 | 違う | 0.04 | 0.02 | 0.00 |
| 3-1 | 数値 | 1,250.00 | 1250 | 同じ | 0.96 | 0.98 | 1.00 |
| 3-2 | 数値 | USD 1,250.00 | $1,250.00 | 同じ | 0.98 | 0.99 | 1.00 |
| 3-3 | 数値 | 1.250,00 | 1,250.00 | 同じ | 0.55 | 0.86 | 1.00 |
| 3-4 | 数値 | 1250.0 | 1250.5 | 違う | 0.03 | 0.05 | 0.00 |
| 3-5 | 数値 | 12,500 | 1,250 | 違う | 0.09 | 0.05 | 0.00 |
| 3-6 | 数値 | 1,250.00 | 1,250.00 USD | 違う | 0.88 | 0.91 | 1.00 |
| 3-7 | 数値 | USD 1,250 | JPY 1,250 | 違う | 0.03 | 0.04 | 0.00 |
| 3-8 | 数値 | 500 KGS | 500.000 KG | 同じ | 0.98 | 0.93 | 1.00 |
| 3-9 | 数値 | 500 KG | 1102.31 LBS | 同じ | 0.94 | 0.86 | 1.00 |
| 3-10 | 数値 | 10 CTNS | 10 CARTONS | 同じ | 0.96 | 0.98 | 1.00 |
| 3-11 | 数値 | USD 1,250.00 | USD 1,250.00 | 同じ | 0.99 | 0.98 | 1.00 |
| 3-12 | 数値 | 1.250,00 | 1.250,00 | 同じ | 0.98 | 0.98 | 1.00 |
| 3-13 | 数値 | 500 KGS | 500 KGS | 同じ | 0.98 | 0.98 | 1.00 |
| 3-14 | 数値 | 1,250.00 USD | 1,250.00 USD | 同じ | 0.99 | 0.98 | 1.00 |
| 3-15 | 数値 | 1,250.00 | 1,205.00 | 違う | 0.03 | 0.02 | 0.00 |
| 3-16 | 数値 | 500 KG | 500 LBS | 違う | 0.03 | 0.03 | 0.15 |
| 3-17 | 数値 | 10 CTNS | 10 PALLETS | 違う | 0.07 | 0.21 | 0.00 |
| 3-18 | 数値 | 500.00 KG | 50.00 KG | 違う | 0.04 | 0.02 | 0.00 |
| 4-1 | 会社名 | ACME CO., LTD. | Acme Co., Ltd. | 同じ | 0.95 | 0.96 | 1.00 |
| 4-2 | 会社名 | ACME CO.,LTD. | ACME CO., LTD. | 同じ | 0.96 | 0.96 | 1.00 |
| 4-3 | 会社名 | GLOBEX CORPORATION | GLOBEX CORP. | 同じ | 0.96 | 0.93 | 1.00 |
| 4-4 | 会社名 | 株式会社サンプル商事 | サンプル商事株式会社 | 同じ | 0.95 | 0.86 | 0.29 |
| 4-5 | 会社名 | ACME | ACME | 同じ | 0.97 | 0.93 | 1.00 |
| 4-6 | 会社名 | ACME TRADING CO. | ACNE TRADING CO. | 違う | 0.11 | 0.23 | 0.00 |
| 4-7 | 会社名 | Initech Inc. | Initech Incorporated | 同じ | 0.95 | 0.95 | 1.00 |
| 4-8 | 会社名 | 株式会社サンプル商事 | 株式会社サンプル商事 | 同じ | 0.98 | 0.98 | 1.00 |
| 4-9 | 会社名 | ACME | ACME | 同じ | 0.99 | 0.97 | 1.00 |
| 4-10 | 会社名 | GLOBEX CORP. | GLOBEX CORP. | 同じ | 0.99 | 0.97 | 1.00 |
| 4-11 | 会社名 | Initech Incorporated | Initech Incorporated | 同じ | 0.99 | 0.98 | 1.00 |
| 4-12 | 会社名 | ACME TRADING CO., LTD. | ACME SHIPPING CO., LTD. | 違う | 0.03 | 0.16 | 0.00 |
| 4-13 | 会社名 | GLOBEX CORP. | GLOBEX HOLDINGS CORP. | 違う | 0.08 | 0.31 | 0.08 |
| 4-14 | 会社名 | 株式会社サンプル商事 | 株式会社サンプル物産 | 違う | 0.09 | 0.20 | 0.00 |
| 4-15 | 会社名 | ACME CO., LTD. | ACME CO., LTD. (Taiwan Branch) | 違う | 0.10 | 0.24 | 0.01 |
| 5-1 | 住所 | TOKYO, JAPAN | Tokyo Japan | 同じ | 0.97 | 0.98 | 1.00 |
| 5-2 | 住所 | JP | JAPAN | 同じ | 0.94 | 0.93 | 1.00 |
| 5-3 | 住所 | OSAKA | Osaka-shi, Osaka | 違う | 0.67 | 0.67 | 0.97 |
| 5-4 | 住所 | 1-1-1 Sample-cho, Chuo-ku, Tokyo | 〒100-0000 東京都中央区サンプル町1-1-1 | 同じ | 0.67 | 0.97 | 0.99 |
| 5-5 | 住所 | SAPPORO | SENDAI | 違う | 0.04 | 0.04 | 0.00 |
| 5-6 | 住所 | 〒100-0000 東京都中央区サンプル町1-1-1 | 〒100-0000 東京都中央区サンプル町1-1-1 | 同じ | 0.99 | 0.98 | 1.00 |
| 5-7 | 住所 | TOKYO, JAPAN | TOKYO, JAPAN | 同じ | 0.98 | 0.98 | 1.00 |
| 5-8 | 住所 | JP | JP | 同じ | 0.97 | 0.97 | 1.00 |
| 5-9 | 住所 | 1-1-1 Sample-cho, Chuo-ku, Tokyo | 1-1-2 Sample-cho, Chuo-ku, Tokyo | 違う | 0.03 | 0.04 | 0.00 |
| 5-10 | 住所 | 〒100-0000 東京都中央区サンプル町1-1-1 | 〒101-0000 東京都千代田区サンプル町1-1-1 | 違う | 0.03 | 0.12 | 0.00 |
| 5-11 | 住所 | CHUO-KU, TOKYO | CHUO-KU, OSAKA | 違う | 0.04 | 0.03 | 0.00 |
| 6-1 | 品名 | STEEL PIPE SEAMLESS 50MM | SEAMLESS STEEL PIPE 50MM | 同じ | 0.96 | 0.97 | 1.00 |
| 6-2 | 品名 | STEEL PIPE SEAMLESS 50MM | STEEL PIPE SEAMLESS 50MM | 同じ | 0.97 | 0.97 | 1.00 |
| 6-3 | 品名 | STEEL PIPE (50MM) | STEEL PIPE 50MM | 同じ | 0.98 | 0.97 | 1.00 |
| 6-4 | 品名 | STEEL PIPE 50MM | STEEL PIPE 60MM | 違う | 0.03 | 0.03 | 0.00 |
| 6-5 | 品名 | SEAMLESS CARBON STEEL PIPE, OUTER DIAMETER 50MM, WALL THICKNESS 3.5MM, LENGTH 6000MM, SURFACE BLACK PAINTED, PACKED IN WOODEN CRATE, MANUFACTURED UNDER SPECIFICATION JIS G3454 SGP, LOT CONTROLLED, INSPECTION CERTIFICATE ISSUED BY MILL, ORIGIN JAPAN | SEAMLESS CARBON STEEL PIPE, OUTER DIAMETER 50MM, WALL THICKNESS 3.5MM, LENGTH 6000MM, SURFACE BLACK PAINTED, PACKED IN WOODEN CRATE, MANUFACTURED UNDER SPECIFICATION JIS G3454 SGP, LOT CONTROLLED, INSPECTION CERTIFICATE ISSUED BY MILL, ORIGIN KOREA | 違う | 0.06 | 0.09 | 0.00 |
| 6-6 | 品名 | STEEL PIPE (50MM) | STEEL PIPE (50MM) | 同じ | 0.98 | 0.98 | 1.00 |
| 6-7 | 品名 | SEAMLESS CARBON STEEL PIPE, OUTER DIAMETER 50MM, WALL THICKNESS 3.5MM, LENGTH 6000MM, SURFACE BLACK PAINTED, PACKED IN WOODEN CRATE, MANUFACTURED UNDER SPECIFICATION JIS G3454 SGP, LOT CONTROLLED, INSPECTION CERTIFICATE ISSUED BY MILL, ORIGIN KOREA | SEAMLESS CARBON STEEL PIPE, OUTER DIAMETER 50MM, WALL THICKNESS 3.5MM, LENGTH 6000MM, SURFACE BLACK PAINTED, PACKED IN WOODEN CRATE, MANUFACTURED UNDER SPECIFICATION JIS G3454 SGP, LOT CONTROLLED, INSPECTION CERTIFICATE ISSUED BY MILL, ORIGIN KOREA | 同じ | 0.95 | 0.98 | 1.00 |
| 6-8 | 品名 | STEEL PIPE SEAMLESS 50MM | STEEL PIPE WELDED 50MM | 違う | 0.05 | 0.09 | 0.00 |
| 6-9 | 品名 | STEEL PIPE 50MM BLACK | STEEL PIPE 50MM GALVANIZED | 違う | 0.04 | 0.08 | 0.00 |
| 6-10 | 品名 | SEAMLESS STEEL PIPE 50MM x 6000MM | SEAMLESS STEEL PIPE 50MM x 6600MM | 違う | 0.03 | 0.04 | 0.00 |
| 7-1 | OCR の誤読 | INVO1CE | INVOICE | 違う | 0.24 | 0.73 | 0.15 |
| 7-2 | OCR の誤読 | DOC-O012345 | DOC-0012345 | 違う | 0.25 | 0.61 | 0.06 |
| 7-3 | OCR の誤読 | 1,25O.00 | 1,250.00 | 違う | 0.86 | 0.73 | 0.84 |
| 7-4 | OCR の誤読 | ACMl | ACME | 違う | 0.45 | 0.28 | 0.04 |
| 7-5 | OCR の誤読 | DOC-O012345 | DOC-O012345 | 同じ | 0.99 | 0.97 | 1.00 |
| 7-6 | OCR の誤読 | 1,25O.00 | 1,25O.00 | 同じ | 0.97 | 0.87 | 0.97 |
| 7-7 | OCR の誤読 | INVO1CE | INVO1CE | 同じ | 0.97 | 0.94 | 0.94 |
| 7-8 | OCR の誤読 | DOC-2026 | DOC-2028 | 違う | 0.05 | 0.04 | 0.00 |
| 8-1 | 欠損 | (空) | (空) | 同じ | 0.16 | 0.37 | 0.03 |
| 8-2 | 欠損 | (空) | 1,250.00 | 違う | 0.01 | 0.02 | 0.00 |
| 8-3 | 欠損 | N/A | (空) | 同じ | 0.09 | 0.15 | 0.00 |
| 8-4 | 欠損 | - | 該当なし | 同じ | 0.24 | 0.46 | 0.02 |
| 8-5 | 欠損 | N/A | N/A | 同じ | 0.21 | 0.51 | 0.66 |
| 8-6 | 欠損 | 該当なし | 該当なし | 同じ | 0.37 | 0.91 | 0.36 |
| 8-7 | 欠損 | N/A | 0 | 違う | 0.08 | 0.08 | 0.01 |
| 9-1 | 合計と明細 | 合計 500 KG | 明細: 200 KG / 200 KG / 100 KG | 同じ | 0.98 | 0.98 | 1.00 |
| 9-2 | 合計と明細 | 合計 500 KG | 明細: 200 KG / 200 KG / 50 KG | 違う | 0.03 | 0.40 | 0.03 |
| 9-3 | 合計と明細 | 10 CTNS | CTN No.1-10 | 同じ | 0.91 | 0.88 | 1.00 |
| 9-4 | 合計と明細 | 1 箱 | 管理番号 ABCD1234567 (1箱) | 同じ | 0.84 | 0.92 | 1.00 |
| 9-5 | 合計と明細 | 明細: 200 KG / 200 KG / 100 KG | 明細: 200 KG / 200 KG / 100 KG | 同じ | 0.99 | 0.98 | 1.00 |
| 9-6 | 合計と明細 | CTN No.1-10 | CTN No.1-10 | 同じ | 0.97 | 0.98 | 1.00 |
| 9-7 | 合計と明細 | 10 CTNS | CTN No.1-9 | 違う | 0.04 | 0.35 | 0.50 |
| 9-8 | 合計と明細 | 合計 500 KG | 明細: 500 KG / 500 KG | 違う | 0.97 | 0.56 | 0.35 |
| 10-1 | 空白・記号 | INV-2026-0912 | INV-2026-0912 | 同じ | 0.94 | 0.96 | 0.92 |
| 10-2 | 空白・記号 | ACME CO., LTD. | ACME CO., LTD. | 同じ | 0.90 | 0.95 | 1.00 |
| 10-3 | 空白・記号 | 1,250.00 | 1,250.00 | 同じ | 0.98 | 0.98 | 1.00 |
| 10-4 | 空白・記号 | ACME CO., LTD. | ACME CO., LTD. | 同じ | 0.96 | 0.95 | 1.00 |
| 10-5 | 空白・記号 | 1,250.00 | 1,250.00 | 同じ | 0.99 | 0.98 | 1.00 |
| 10-6 | 空白・記号 | INV-2026-0912 | INV-2026-0912 | 同じ | 0.94 | 0.98 | 1.00 |
| 10-7 | 空白・記号 | ACME CO., LTD. | ACME CO., LTD. | 同じ | 0.98 | 0.98 | 1.00 |
| 10-8 | 空白・記号 | STEEL PIPE SEAMLESS | STEEL PIPE SEAMLESS | 同じ | 0.98 | 0.97 | 1.00 |
4. まとめ
Gemini Decision 1・Jev・Decisions API に、同じ107件の横突合を同日で解かせてみました。
意味の一致の正答数は、しきい値 0.8 では Jev が100件と最も多く、Gemini Decision 1 は94件、Decisions API は96件という結果でした。
速度や料金面でも Jev が最も有利で、Gemini Decision 1 は応答時間の中央値が約0.54秒と3つの中で一番遅く、料金も Jev の約1.4倍かかりました。速度はほとんど誤差だと思っています。
一方で、出力される確率の傾向は Gemini Decision 1 と Jev でよく似ていました。
Decisions API は83件で確率がちょうど 0 か 1 に張り付いてしまったのに対し、Gemini Decision 1 は0件で、判断に迷ったケースを確率の低さから拾い上げられる形になっていました。これは本当に嬉しいですね!
Gemini Decision 1 は、料金が Jev より多少高いものの、画像や PDF を同じ API で扱えるメリットも含めて、採用を検討する候補になりそうだと感じました。
ただ、今のところ Gemini Decision 1 を使えるのは Gemini Developer API(Google AI Studio の API キーで呼ぶ API)だけです。
Available on the Gemini Developer API (v1beta) with Gemini Decision 1 only.
引用元: Decisions API | Google AI Studio
あとは、Google Cloud の Gemini Enterprise Agent Platform(旧 Vertex AI。Vertex AI name changes | Google Cloud)でも使えるようになれば最高です!







