
NVIDIAの基盤モデルを学ぼう 前編:Nemotron(テキスト生成、音声AI)、Physical AI
こんちには。製造ビジネステクノロジー部の中村(@nokomoro3)です。
「NVIDIAの技術をまなぼう」ということで、NVIDIAの技術でよく聞くキーワードをピックアップして紹介します。
NVIDIAはGPUだけでなく、AIモデル、モデルを開発・実行するためのソフトウェア、企業向けの運用・サポート機能まで提供しています。
個々の技術は独立して見えますが、実際にはモデルの開発から推論、本番運用までを支える一連の技術として構成されています。
NVIDIAは、重みをダウンロードして利用できるオープンウェイトモデルや、学習レシピなどのコードが公開されたモデルを提供しています。
本記事では前編として、生成AI・AIエージェント向けのNemotronと、現実世界を扱うPhysical AI向けモデル、それらに関連する開発基盤をご紹介します。
本記事で紹介する技術
- テキスト生成AI・音声AI:NVIDIA Nemotron
- Physical AI:NVIDIA Cosmos、NVIDIA Isaac GR00T、NVIDIA Alpamayo
NVIDIA Nemotron
NVIDIA Nemotronは、NVIDIAが公開している基盤モデルファミリーの名称です。
単にモデルだけでなく、学習データや学習・カスタマイズ用のレシピも提供されています。
また、Nemotronは元々、大規模言語モデルを指す名称でしたが、現在はAIエージェント向けのモデルの総称として使われており、RAG向けのモデルファミリーや音声AI向けのモデルファミリーも含んでいます。
モデルファミリーとしては以下のようなカテゴリのものがあります。
| モデルファミリー | 概要 |
|---|---|
| Nemotron 3 | 大規模言語モデル |
| Nemotron Parse | PDFや画像からテキスト・表・レイアウトを抽出するためのモデル |
| Nemotron Retriever | 情報検索のためのモデル(テキスト抽出、埋め込みベクトル化、リランキングなど) |
| Nemotron Speech | 音声認識、音声合成、音声対話、翻訳などの音声モデル |
| Nemotron Safety | コンテンツモデレーション、PII(個人情報)検出などの安全性に関するモデル |
各モデルファミリーには、一部をのぞいてHugging Faceで重みが公開され、ダウンロードして利用できるオープンウェイトモデルが多数含まれています。
各モデルファミリーを組み合わせたAIエージェントの構築イメージは以下のようになります。
すべてのモデルを必ず利用するわけではなく、文書検索、音声入出力、安全性確認など、用途に応じて必要なモデルを組み合わせます。
NeMoについて
NVIDIA NeMoは、生成AIモデルやAIエージェントの開発、カスタマイズ、評価、運用を支援するソフトウェア群です。
単一の製品ではなく、オープンソースのライブラリやフレームワークと、APIで利用するコンテナ化されたマイクロサービスから構成されています。
Nemotronとの関係が深い一方、Nemotron専用ではなく、他社のモデルにも利用できます。
主なツール・サービスは以下の通りです。
| ツール・サービス | 主な役割 |
|---|---|
| NeMo Framework | 言語、音声、画像・言語などの生成AIモデルを事前学習、追加学習、ファインチューニング |
| NeMo Curator | 学習に使うテキスト、画像、動画などのデータを収集・整理し、重複や低品質なデータを除去 |
| NeMo Customizer | 独自データを使ったファインチューニングをAPIから実行 |
| NeMo Evaluator | モデルやAIエージェントの正確さ、安全性などをベンチマークで評価 |
| NeMo Guardrails | 入力と出力を検査し、安全性、話題、企業ポリシーなどに基づいて応答を制御 |
| NeMo Retriever | 文書を解析・検索し、関連情報をモデルへ渡すRAGを構築 |
| NeMo Agent Toolkit | AIエージェント、モデル、データ、外部ツールを接続し、処理時間や精度を評価・最適化 |
例えば、Nemotronを独自データに合わせる場合は、NeMo Curatorでデータを整え、NeMo FrameworkやNeMo Customizerで追加学習し、NeMo Evaluatorで結果を確認できます。
モデルをアプリケーションとして利用するときは、NIMとして配備し、Blueprintの構成要素として利用することもできます。
すべての工程でNeMoやNIMが必須というわけではなく、必要なツールだけを選んで利用します。
NIMについて
NVIDIA NIMは、学習済みモデルをGPU上で効率よく実行し、APIとして利用できるようにした推論マイクロサービスです。TensorRT-LLM、vLLM、SGLangなどの推論エンジン、APIサーバー、GPUごとの最適化設定などをコンテナにまとめ、起動時に環境に合ったモデルと実行設定を読み込みます。
モデルそのものとNIMは別のものです。公開モデルをTransformersやvLLMなどで直接実行することもでき、NIMの利用は必須ではありません。一方、NIMを使うと、アプリケーションからモデルを共通的なAPIで呼び出しやすくなります。NeMoがモデルやAIエージェントの開発・調整・評価を支援するのに対し、NIMは調整済みのモデルを実行・配備する役割を担い、Blueprintでは複数のNIMやほかのソフトウェアを組み合わせます。
2026年7月に更新されたLLM向けの提供体系では、NIMは以下の2種類に分かれています。
| 提供形態 | 位置づけ | NVIDIA AI Enterprise |
|---|---|---|
| NIM | 新しいモデルを早期に試すための通常版。限られたGPU構成で動作を検証 | 不要 |
| NIM Certified | 対応GPU、セキュリティ更新、保守期間、企業サポートなどを拡充した本番運用向け | 必要 |
NVIDIA API Catalogでは、NVIDIAがホストする一部のNIMをAPI経由で試すこともできます。NIMのソフトウェア、内部で使用するモデル、データには、それぞれ個別のライセンスや利用条件が適用されます。
活用事例
Nemotronはモデル本体だけでなく、学習データやNeMoなどと組み合わせて利用されています。
NVIDIA社は、日本での事例として以下を紹介しています。
Stockmark社はNemotron 3 Nano Omniを基盤に日本語の文書理解モデルを開発し、さらにNeMo Retrieverも使い、製造、エネルギー、化学分野の社内知識を検索・活用するアプリケーションを開発しています。
ENEOSホールディングス社はNemotronと文書検索や材料探索向けのワークフローを組み合わせ、技術文書の検索、画像・文章の理解、分子候補のシミュレーションを用いた絞り込みに活用しています。
東京科学大学はNemotronのデータセットとNeMoを使って日本語基盤モデルのSwallowを開発し、金融文書の翻訳や資産運用レポートの作成などへの活用も紹介されています。
NVIDIA Nemotron 3
NVIDIA Nemotron 3は大規模言語モデルのファミリーです。
Nano、Super、Ultraに加え、後発のNemotron 3.5 Lightningがあり、いずれもMamba-2(状態空間モデル系)とTransformerを組み合わせたハイブリッド型MoE(Mixture-of-Experts)アーキテクチャを採用しています。
主なモデルは以下の通りです。
| モデル | 主な公開チェックポイント | 公開年月 | コンテキスト長 | 入出力 | ライセンス |
|---|---|---|---|---|---|
| Nemotron 3 Nano (30B-A3B) | ・BF16 ・FP8 ・NVFP4 ・Base-BF16 |
2025年12月 | 最大1Mトークン | Text → Text | NVIDIA Nemotron Open Model License |
| Nemotron 3 Nano Omni (30B-A3B) | ・Reasoning-BF16 ・Reasoning-FP8 ・Reasoning-NVFP4 |
2026年4月 | 最大256Kトークン | Text/Image/Video/Audio → Text | NVIDIA Open Model Agreement |
| Nemotron 3 Super (120B-A12B) | ・BF16 ・FP8 ・NVFP4 ・Base-BF16 ・BF16-MTPv2 |
2026年3月 | 最大1Mトークン | Text → Text | NVIDIA Nemotron Open Model License |
| Nemotron 3 Ultra (550B-A55B) | ・BF16 ・NVFP4 ・Base-BF16 ・GenRM |
2026年6月 | 最大1Mトークン | Text → Text | OpenMDW 1.1 |
| Nemotron 3.5 Lightning (30B-A3B) | ・BF16 ・NVFP4 ・Base-BF16 ・NVFP4-DSpark ・NVFP4-DFlash |
2026年8月 | 最大1Mトークン | Text → Text | OpenMDW 1.1 |
モデルごとの特徴
- Nemotron 3 Nano:Mamba-2、Transformer、MoEを組み合わせたアーキテクチャです。小型・高効率の汎用推論、コーディング、ツール利用、エージェント実行に位置づけられます。
- Nemotron 3 Nano Omni:NanoのHybrid MoEに、C-RADIO視覚エンコーダーとParakeet音声エンコーダーを追加した構成です。文書解析、OCR、動画・音声理解、ASR、GUIエージェントに対応します。ただし、英語のみのサポートです。
- Nemotron 3 Super:Mamba-2、Attention、LatentMoE、MTPを組み合わせたアーキテクチャです。中~大規模エージェント、長文推論、RAG、コーディング、高スループット処理に位置づけられます。
- Nemotron 3 Ultra:Superと同じくMamba-2、Attention、LatentMoE、MTPを組み合わせた構成で、最上位の推論・オーケストレーション、複雑な長時間エージェント、高精度RAGを想定しています。
- Nemotron 3.5 Lightning:Mamba-2、Attention、LatentMoE、MTPを組み合わせたアーキテクチャです。単一GPUでの推論やカスタマイズ、低遅延エージェント、コーディング、ツール利用に位置づけられます。
モデル規模と実行環境の目安
| モデル | 公式の実行構成 |
|---|---|
| Nemotron 3 Nano 30B | 最小構成は未記載。 BF16版はA100/H100 80GBなど FP8版はH100 80GBなど NVFP4版はB200、RTX PRO 6000、DGX Spark、Jetson Thorで検証 |
| Nemotron 3 Nano Omni 31B | BF16版はH100 80GB 1枚 FP8版はL40S 48GB 1枚 NVFP4版はGeForce RTX 5090 32GB 1枚 |
| Nemotron 3 Super 120B | NVFP4版はB200 1枚またはDGX Spark 1台 FP8版はH100 80GB 2枚 BF16版はH100 80GB 8枚 |
| Nemotron 3 Ultra 550B | NVFP4版はB200 4枚またはH100 8枚 BF16版はB200 8枚、H200 8枚、またはH100 16枚 |
| Nemotron 3.5 Lightning 30B | BF16版はH100 80GBまたはA100 80GB 1枚 NVFP4版はDGX Spark 1台またはH100 1枚(H100ではW4A16として実行) |
Nano OmniのFP8版とNVFP4版で異なるGPUが挙げられているのは、単純な性能差だけが理由ではありません。
L40SはFP8に対応していますが、NVFP4のネイティブ実行には対応していないため、NVFP4版にはBlackwell世代のGeForce RTX 5090などが必要です。
NanoとLightningも30B級で、量子化版は1枚のGPUでの実行を想定した規模です。ただし、Nanoについては公式モデルカードに最小構成が明記はされていません。
必要なメモリは、チェックポイントの形式、入力長、同時処理数によって増減するため、最終的には各モデルカードの記載を確認する必要があります。
モデルの選び方
モデルごとの主な設計差と選び方は、以下のように整理できます。
- Nano:標準的なMoEを採用した最小モデル。単一GPUで動かせる汎用的なテキストモデルが必要な場合に選ぶ
- Nano Omni:Nanoを基盤に画像・動画用と音声用のエンコーダーを追加したモデル。文書、画像、動画、音声を扱う場合に選ぶ
- Super/Ultra:専門家へ渡す情報を小さくして、メモリ転送とGPU間通信を抑えるLatentMoEを採用。より高い回答品質が必要で、大容量GPUまたは複数GPUを利用できる場合に選ぶ
- Lightning:Nanoと同じ30B級で、低遅延・単一GPUでの実行を重視したモデル。MTPやDSpark/DFlashによる生成高速化にも対応する
ここでいうMTPは、後続の複数トークンを候補として先に作り、本体モデルで確認することで文章生成を高速化する仕組みです。
Nemotron 3の特徴
Nemotron 3の特徴は、学習スタックも公開されている点です。
特にNanoとSuperはデータセットこそ完全には公開されていませんが、データセットの一部と学習時の設定の詳細や、エンドツーエンドの学習レシピが公開されています。
一方、Nano OmniやUltraは公開範囲が限定されています。
QwenやDeepSeekなど多くのオープンウェイトモデルでは、アーキテクチャや論文は公開されていても、再現可能な学習レシピまで公開されている例は多くありません。
そのため、基盤モデルを自分たちでゼロから学習したい場合、Nemotron 3は有力な選択肢となります。
マルチモーダル対応はNano Omniのみである点は注意が必要です。
またUltraについてはローカルでは動かすことは難しく、複数枚のGPUが必要となります。
チェックポイント名の末尾表記について
チェックポイント名の違いは、モデルの用途やデータ形式の違いを表しています。
BF16、FP8、NVFP4は浮動小数点形式を示します。
- BF16:16ビットの浮動小数点形式。現在のLLMでは学習時の主流であるため、基準となる形式
- FP8:8ビットの浮動小数点形式。BF16などから低精度化した量子化版
- NVFP4:NVIDIA独自の4ビット浮動小数点形式。FP8よりさらに強く量子化した版
他には用途別にチューニングがされたことを示しています。
- Base:事前学習済みで、指示応答などの追加調整を行う前の基礎モデル
- Reasoning:複雑な問題を段階的に考えて回答する能力を高めるよう追加調整したモデル
- GenRM:複数の候補回答を評価・比較し、スコアや順位を出すことに特化したモデル
また以下は文章生成の高速化に利用する版となっています。
- MTPv2:複数の後続トークンを予測(Nemotron 3 Super向け)
- DSpark:半自己回帰方式で候補をまとめて生成(Nemotron 3.5 Lightning向け)
- DFlash:Block Diffusion方式で候補をまとめて生成(Nemotron 3.5 Lightning向け)
これらは本体モデルとは別に配布される高速化用の補助チェックポイントです。
単独では文章を生成できず、対応する本体モデルと組み合わせて利用します。
参考リンク
- NVIDIA がオープンモデルの Nemotron 3 ファミリーを発表 - NVIDIA | Japan Blog
- NVIDIA Nemotron 3 Ultra を試してみた | DevelopersIO
- NVIDIA Nemotron 3 Super を DGX Spark で動かしてみた | DevelopersIO
- DGX Spark で Nemotron 3 Nano を日本語ファインチューニングしてみた | DevelopersIO
- NVIDIA 公式の日本語強化 LLM Nemotron 9B-v2-Japanese を色々なケースで試してみた | DevelopersIO
Nemotron Parse
Nemotron Parseは文書解析・OCR専用のVLM(Vision-Languageモデル)で、PDF・スライド・帳票・表の構造化を行うことができます。
Nemotronシリーズの中では、非構造化文書をRAG投入可能な構造化データへ変換する用途などが想定されています。
| バージョン | 公開年月 | 主な特徴 | ライセンス |
|---|---|---|---|
| Nemotron Parse v1.1 | 2025年11月 | 初版、英語のみサポート | NVIDIA Open Model License |
| Nemotron Parse v1.2 | 2026年2月 | 多言語・表抽出を改善した更新版(日本語サポート外) | NVIDIA Nemotron Open Model License |
| Nemotron Parse 2.0 | 2026年8月 | 多言語(日本語をサポート)・手書き文字・表の抽出を改善し、グラフから表への変換に対応した現行版 | NVIDIA Open Model License |
モデル規模と実行環境の目安
Nemotron Parseはモデルカードに最小GPU構成が明記されていません。
必要なメモリと処理時間は、モデルだけでなく文書の解像度、ページ数、同時に処理するページ数にも左右されるため、利用するバージョンのモデルカードやNIMの対応GPUを確認する必要があります。
Nemotron Parseは以前「NVIDIA Community Model License」で提供され、本番利用には原則としてNVIDIA NIMとNVIDIA AI Enterpriseの契約が必要でした。
現在公開されている上記のモデルは、いずれもセルフホストで利用できます。
参考リンク
Nemotron Retriever
Nemotron Retrieverは単一モデル名ではなく、NVIDIAが「検索・RAG向けモデル群」に付けているポートフォリオ名です。
多くのモデルが公開されており、テキスト抽出(Extraction)、埋め込みベクトル生成モデル(Embed)、文書のリランキングモデル(Rerank)などが含まれています。
これらはLLMと組み合わせて、社内文書などを根拠に回答するRAGを構成するために使います。
Extractionで文書からテキスト・表・図を取り出し、Embedで質問に近い情報を検索し、Rerankで検索結果を関連度の高い順に並べ直します。
検索結果の上位候補をLLMへ渡すことで、LLM単体では参照できない文書に基づく回答を生成できます。
- テキスト抽出(Extraction)
| 代表的なモデル | 公開年月 | 主な特徴 | モデルライセンス |
|---|---|---|---|
| Nemotron Page Elements v3 | 2025年10月 | テキスト、表、図、タイトルなどの領域検出 | NVIDIA Open Model License Agreement |
| Nemotron Table Structure v1 | 2025年10月 | 行・列・セルなど表構造の検出 | NVIDIA Open Model License Agreement |
| Nemotron OCR v2 | 2026年4月 | 多言語OCR(日本語をサポート)、読み順・レイアウト解析 | NVIDIA Open Model License Agreement |
- 埋め込みベクトル生成(Embed)
| 代表的なモデル | 公開年月 | 主な特徴 | モデルライセンス |
|---|---|---|---|
| Llama Nemotron Embed VL 1B v2 | 2025年12月 | 文書ページ画像・テキストの検索 | NVIDIA Open Model License (Llama 3.2の追加条件あり) |
| Llama Nemotron Embed 1B v2 | 2026年2月 | 多言語・クロスリンガル検索(日本語を含む26言語で評価) | NVIDIA Open Model License (Llama 3.2の追加条件あり) |
| Nemotron 3 Embed 1B Nemotron 3 Embed 8B |
2026年7月 | 多言語・クロスリンガル検索(日本語を含む34言語で評価)、RAG、ソースコード検索 | OpenMDW 1.1 |
- 文書のリランキング(Rerank)
| 代表的なモデル | 公開年月 | 主な特徴 | モデルライセンス |
|---|---|---|---|
| Llama Nemotron Rerank VL 1B v2 | 2025年12月 | 文書ページ画像・テキスト候補の再順位付け | NVIDIA Open Model License (Llama 3.2の追加条件あり) |
| Llama Nemotron Rerank 1B v2 | 2026年2月 | テキスト候補の再順位付け | NVIDIA Open Model License (Llama 3.2の追加条件あり) |
| Llama Nemotron Rerank 500M v2 | 2026年3月 | より軽量なテキスト候補の再順位付け | 公開重みではなくNIMとして提供 (開発・評価はDeveloper Program、本番利用は原則としてNVIDIA AI Enterpriseが必要) |
モデル規模と実行環境の目安
EmbedとRerankは500M~8B級であり、モデル単体の推論は24~48GBのGPU 1枚で扱える規模です。
ただし、文書抽出、埋め込み生成、再順位付け、回答生成LLMを同じ環境で同時に動かすRAGシステムでは、各モデルの合計と同時処理数に応じて複数GPUが必要になります。
Llama 3.2 Community Model Licenseを含むモデルについて
一部のモデルはLlama由来のコンポーネントを含むため、Llama 3.2 Community Model Licenseを追加情報として参照しています。
そのため再配布やモデルを組み込んだサービスの提供時には、Llama 3.2ライセンスの同梱、帰属表示、「Built with Llama」の表示、Acceptable Use Policyへの準拠なども確認する必要があります。また、月間アクティブユーザーが一定数を超える事業者には、Metaとの個別ライセンスが必要です。
一般的な規模の商用利用を禁止する条件ではありませんが、NVIDIA側の条件だけを確認すればよいわけではありませんのでご注意ください。
Nemotron Parseとの違い
ExtractionモデルはNemotron Parseと担当領域が重複しているように見えますが、Nemotron Parseが統合型のVLMであるのに対し、Nemotron RetrieverのExtractionは複数の専用モデルを組み合わせてRAG向けの文書抽出パイプラインを構成します。
実際にNVIDIA RAG Blueprintでは、統合型と専用モデルを併用することも推奨されています。
NeMo Retriever Libraryとの違い
NeMo Retriever Libraryは、これらを組み合わせるための別のソフトウェアです。
前述のNemotron ParseもこのNeMo Retriever Library内では統合されています。
Nemotron Speech
Nemotron Speechも単一モデル名ではなく、NVIDIAが「音声・翻訳モデル群」に付けているポートフォリオ名です。
多くのモデルが公開されており、音声認識(ASR)、音声合成(TTS)、テキスト翻訳(NMT)、自動音声翻訳(AST)、音声対話(S2S)などが含まれています。
| タスク | 入力 | 出力 | モデル例 |
|---|---|---|---|
| 音声認識(ASR) | 音声 | 入力と同じ言語のテキスト | Parakeet、Canary、Nemotron ASR |
| 自動音声翻訳(AST) | 音声 | 入力と別言語のテキスト | Canary 1B v2/Flash |
| テキスト翻訳(NMT) | テキスト | 入力と別言語のテキスト | Riva Translate |
| 音声合成(TTS) | テキスト | 音声 | MagpieTTS |
| 音声対話(S2S) | 音声 | 音声(入力に対する応答) | PersonaPlex、VoiceChat |
これらはLLMと組み合わせて、音声エージェントを構成するために使います。一般的な構成では、ASRでユーザーの音声をテキストへ変換し、LLMで応答文を生成して、TTSで音声として返します。NMTやASTを加えると異なる言語にも対応できます。一方、S2Sモデルでは、個別のASR・LLM・TTSを直列につなぐ代わりに、音声から応答音声を直接生成します。
以下は、Nemotron Speech公式コレクションなどに掲載・提供されているモデルのうち、2025年以降に公開された主なモデルです。
- 音声認識(ASR)/自動音声翻訳(AST)
| 代表的なモデル | 公開年月 | 主な特徴 | ライセンス |
|---|---|---|---|
| Canary-Qwen 2.5B | 2025年7月 | 英語音声の一括文字起こし、文字起こし内容の要約・質問応答 モデル自体は時刻情報を出力しない |
CC BY 4.0 |
| Canary 1B v2 | 2025年8月 | 欧州25言語の一括文字起こし、英語と他24言語間の音声翻訳 時刻情報は文字起こしは単語・発話区間単位、音声翻訳は発話区間単位 |
CC BY 4.0 |
| Parakeet-TDT 0.6B v3 | 2025年8月 | 欧州25言語の長時間音声を効率よく一括文字起こし、言語の自動判別 時刻情報は文字・単語・発話区間単位 |
CC BY 4.0 |
| Parakeet Realtime EOU 120M | 2025年 | 英語音声の低遅延ストリーミング文字起こしと発話終了検出を1モデルで処理(音声エージェント向け) 公式モデルカードに時刻情報出力の記載なし |
NVIDIA Open Model License |
| Multitalker Parakeet Streaming 0.6B | 2026年1月 | 英語の複数話者・重複発話を話者別に分けながらストリーミング文字起こし(別途、話者分離モデルが必要) 公式モデルカードに時刻情報出力の記載なし |
NVIDIA Open Model License |
| Nemotron Speech Streaming EN 0.6B | 2026年3月 | 英語音声の低遅延ストリーミング文字起こし、多数の音声の並行処理 公式モデルカードに時刻情報出力の記載なし |
NVIDIA Open Model License |
| Parakeet Unified EN 0.6B | 2026年4月 | 英語音声の一括文字起こしとストリーミング文字起こし 公式モデルカードに時刻情報出力の記載なし |
NVIDIA Open Model License |
| Nemotron 3.5 ASR Streaming 0.6B | 2026年6月 | 多言語(日本語を含む)のストリーミング文字起こし、言語の自動判別 時刻情報はトークン単位 |
OpenMDW 1.1 |
- テキスト翻訳(NMT)
| 代表的なモデル | 公開年月 | 主な特徴 | ライセンス |
|---|---|---|---|
| Riva Translate 1.6B | 不明(2026年時点で提供済) | 36言語(日本語を含む)間のテキスト翻訳 | NVIDIA NMT NIMとして提供 (開発・評価はDeveloper Program、本番利用は原則としてNVIDIA AI Enterpriseが必要) |
- 音声合成(TTS)
| 代表的なモデル | 公開年月 | 主な特徴 | ライセンス |
|---|---|---|---|
| MagpieTTS Multilingual 357M | 2026年1月 | 12言語(日本語を含む)の音声合成 | NVIDIA Open Model License |
- 音声対話(S2S)
| 代表的なモデル | 公開年月 | 主な特徴 | ライセンス |
|---|---|---|---|
| PersonaPlex 7B v1 | 2026年1月 | 英語のリアルタイム音声対話、発話の割り込みや重なりに対応 | NVIDIA Open Model License (CC BY 4.0追加条件あり) |
| NemotronLabs VoiceChat 11B | 2026年8月 | 英語のASR・LLM・TTS・ツール呼び出しを統合した音声対話 | OpenMDW 1.1 |
モデル規模と実行環境の目安
ASR、翻訳、TTSのモデルは120M~2.5B級が中心で、モデル単体は24GB級のGPU 1枚で扱える規模です。
音声対話モデルは7B~11B級のため24~48GBのGPU 1枚が目安ですが、リアルタイム処理ではメモリ容量だけでなく、目標とする遅延と同時接続数もGPU選定に影響します。
Nemotron Safety
Nemotron Safetyも単一モデル名ではなく、NVIDIAがコンテンツモデレーション、安全性調整、PII検出、エージェントの安全性などに関連するモデルとデータセットへ付けているポートフォリオ名です。
主なモデルは以下です。
| 代表的なモデル | 公開年月 | 入力 | 主な特徴 | ライセンス |
|---|---|---|---|---|
| Llama 3.1 Nemotron Safety Guard 8B v3 | 2025年10月 | テキスト | 9言語(日本語を含む)のプロンプト、応答モデレーション | NVIDIA Open Model License (Llama 3.1の追加条件あり) |
| Nemotron Content Safety Reasoning 4B | 2025年11月 | テキスト | カスタマイズ可能な安全ポリシー、トピック制御、理由付き判定 | NVIDIA Open Model License (Gemmaの条件あり) |
| Nemotron 3 Content Safety | 2026年3月 | テキスト・画像 | 12言語(日本語を含む)のマルチモーダル安全性判定 | NVIDIA Nemotron Open Model License (Gemmaの条件あり) |
| Nemotron 3.5 Content Safety | 2026年6月 | テキスト・画像 | 12言語(日本語を含む)のマルチモーダル判定、カスタマイズ可能な安全ポリシー、トピック制御、理由付き判定 | OpenMDW 1.1 (Gemmaの条件あり) |
モデル規模と実行環境の目安
現在の主なモデルは4B~8B級であり、24~48GBのGPU 1枚で扱える規模です。
画像も判定するモデルでは、入力画像の枚数・解像度と同時処理数に応じて追加のメモリが必要になります。
主なデータセットは以下です。
| データセット | 主な用途 |
|---|---|
| Nemotron-SFT-Safety-v2 | 安全な拒否応答の学習 |
| Nemotron-Safety-Guard-Dataset-v3 | コンテンツ安全性の分類 |
| Nemotron-3.5-Content-Safety-Dataset | マルチモーダルなコンテンツ安全性の分類 |
| Nemotron-Content-Safety-Reasoning-Dataset | カスタマイズ可能な安全ポリシーと理由付き判定の学習 |
| Nemotron-PII | PII/PHIの検出 |
| Nemotron-AIQ-Agentic-Safety-Dataset-1.0 | エージェントの安全性評価 |
| Nemotron-RL-Agentic-Indirect-Prompt-Injection-v1 | 間接プロンプトインジェクションへの耐性学習 |
| Nemotron-Content-Safety-Audio-Dataset | 音声コンテンツの安全性評価 |
| Nemotron-RL-Safety-v1 | RL/報酬モデルによる安全性調整 |
参考リンク
ここまでは、文章、文書、音声などを扱う生成AI・AIエージェント向けの技術を紹介しました。ここからは、ロボットや自動運転など、現実世界を認識して行動するPhysical AI向けの技術を紹介します。
Physical AI向けモデル
NVIDIAはPhysical AI向けのモデルも多数提供しています。
- NVIDIA Cosmos: 世界基盤モデル
- NVIDIA GR00T: 汎用ロボット、特にヒューマノイド向けのオープンウェイトな基盤モデルと開発プラットフォーム
- NVIDIA Alpamayo: 自動運転向けのオープンウェイトな基盤モデルと開発プラットフォーム
NVIDIA Cosmos 3
NVIDIA Cosmosの最新モデルはCosmos 3です。
Cosmos 3が行う処理は、大きく2つに分けられます。
- 理解・推論:テキスト、画像、動画を読み取り、状況の説明や次に行うべきことを文章で回答する。AR(自己回帰)方式のReasonerが担当
- 生成:テキストや画像などをもとに、画像、動画、音声、ロボットの行動を生成する。DM(拡散)方式のGeneratorが担当

画像、動画、音声、行動データは、それぞれ専用のEncoderによってモデルが扱える形式に変換されます。ReasonerとGeneratorを1つのモデルに統合していることが、Cosmos 3の大きな特徴です。
Cosmos 3はロボット専用ではなく、自動運転、倉庫や工場の監視、スマートスペースなど、現実世界を理解・予測する幅広いPhysical AIに利用できます。
「世界基盤モデル」という名前だけでは用途を想像しにくいかもしれませんが、Cosmos 3では以下のような用途が想定されています。
| 用途 | 概要 | 入力 | 出力 |
|---|---|---|---|
| Vision Reasoning | この画像・動画では何が起きていて、何をすべきか | ・倉庫内で、ロボットアームの前に赤い箱と青い箱が置かれている画像 ・「赤い箱の位置を特定し、ロボットが次に何をすべきか回答してください」という質問 |
・「グリッパーを赤い箱の方へ移動させ、その箱をつかんでください」という回答 |
| World Generation | この指示や開始画像から、どのような世界・映像になるか | ・「ロボットアームが作業台の赤い箱を持ち上げ、棚に置く」というテキスト ・ロボットアームと赤い箱が写った開始点の画像 |
・ロボットアームが赤い箱を棚へ移動する動画 ・動画に同期したロボットの動作音 |
| Forward Dynamics | この行動を実行すると、世界はどう変化するか | ・ロボットアームと赤い箱の現在の状態を表す画像 ・ロボットアームに実行させる予定の行動列(数値データ) ・必要に応じて「赤い箱を持ち上げる動作」というテキスト |
・ロボットアームが赤い箱へ接近し、把持して持ち上げる未来の動画 |
| Inverse Dynamics | この状態変化を起こした行動は何か | ・赤い箱が作業台から棚へ移動するまでを記録した動画 ・必要に応じて「赤い箱を棚に置く動作を推定してください」というテキスト |
・推定された行動列 ・推定した行動列に対応する動画 |
| Robot Policy | この目標を達成するには、どの行動を実行すべきか | ・ロボットアーム、赤い箱、棚が写った現在の画像 ・「赤い箱を持ち上げて棚に置いてください」というタスク指示 |
・ロボットが実行すべき行動列 ・ロボットが赤い箱を棚へ置く未来の動画 |
主なモデルは以下の通りです。
| 種類 | モデル | 主な用途 | 公開年月 | ライセンス |
|---|---|---|---|---|
| 汎用 | Cosmos3-Nano | 理解・推論と、画像・動画・音声・行動の生成 | 2026年5月 | OpenMDW 1.1 |
| ロボット制御専用 | Cosmos3-Nano-Policy-DROID | DROIDの外部・手首カメラ映像とテキスト指示からロボットの行動を生成 | 2026年5月 | OpenMDW 1.1 |
| 汎用 | Cosmos3-Super | 理解・推論と、画像・動画・音声・行動の生成 | 2026年5月 | OpenMDW 1.1 |
| 画像生成専用 | Cosmos3-Super-Text2Image | テキストから画像を生成 | 2026年5月 | OpenMDW 1.1 |
| 動画生成専用 | Cosmos3-Super-Image2Video | 画像とテキスト指示から動画を生成 | 2026年5月 | OpenMDW 1.1 |
| 汎用 | Cosmos3-Edge | 理解・推論と、画像・動画・行動の生成 | 2026年7月 | OpenMDW 1.1 |
| ロボット制御専用 | Cosmos3-Edge-Policy-DROID | DROIDの外部・手首カメラ映像とテキスト指示からロボットの行動を生成 | 2026年7月 | OpenMDW 1.1 |
モデル規模と実行環境の目安
Cosmos 3はEdgeが4B、Nanoが16B、Superが64Bで、現時点の公式チェックポイントはBF16です。
Edgeは1枚のGPUやエッジ機器での実行、Nanoは48~80GB級のGPU 1枚が目安です。
Superは複数GPU向けで、公式のSGLangによる配備例では4枚のGPUを使用します。
画像・動画生成では、解像度、フレーム数、生成時間によって必要なメモリが大きく増えます。
ReasonerとGenerator
Cosmos 3はReasonerとGeneratorを統合したモデルですが、利用時に常に理解・推論と生成の両方を行うわけではありません。
- 理解・推論機能だけを利用する
- テキスト、画像、動画の内容を理解し、説明、質問応答、行動計画などを文章で出力するケースです。
- そのため実行方法によっては、Reasoner部分だけをメモリに読み込んで実行が可能です。
- 生成機能だけを利用する
- テキストや画像から画像、動画、音声、行動などを直接生成するケースです
- 統合されているため利用者がReasonerを先に別途呼び出す必要はありません。
両者は対称ではありません。
Reasonerは実行方法によっては単独で読み込めますが、Generatorはモデル内部のAR側で処理したテキストなどの情報を参照して生成します。
そのため、生成機能だけを呼び出す場合でも、実行方法によってはReasonerとGeneratorの両方を含むチェックポイント全体が読み込まれます。
DROIDとは
DROIDは、Franka Panda 7軸ロボットアーム、外部カメラ、手首カメラなどの共通構成で収集されたロボット操作データセットです。
564のシーンと86のタスクを含むため作業内容は幅広い一方、ロボットの機体構成は特定されています。
モデル名にPolicy-DROIDが付くものはこの機体構成向けであり、他のロボットで使う場合は、通常はその機体のデータによる追加学習などが必要です。
参考リンク
- Cosmos World Foundation Model Platform for Physical AI
- NVIDIA/cosmos: NVIDIA Cosmos is an open platform of world models, datasets, and tools that enables developers to build Physical AI for robots, autonomous vehicles, smart infrastructure, and more.
- DGX Spark で NVIDIA Cosmos 3 を動かしてみた | DevelopersIO
- NVIDIA Cosmos 3 ファミリーの用途マップを整理してみた | DevelopersIO
- Cosmos 3 でアップデートされた NVIDIA Physical AI を工場 AI の三層構造で読み解いてみた | DevelopersIO
NVIDIA Cosmos 2
Cosmos 3以前のCosmos 2も使われています。
Cosmos 2では、Predict、Transfer、Reasonが別々のモデル系列として提供されています。
| モデル | 中心的な問い | 主な入力 | 主な出力 |
|---|---|---|---|
| Predict | 「次に何が起きるか」 | テキスト、画像、動画 | 未来の映像 |
| Reason | 「この映像で何が起きており、どう行動すべきか」 | 画像・動画+質問 | 判断・説明・行動案 |
| Transfer | 「同じ構造・動きを別の見た目にするとどうなるか」 | 映像、深度、エッジ、LiDARなど | 制御された写実映像 |
主なモデルは以下の通りです。
| 系列 | モデル | 公開年月 | 主な特徴 | ライセンス |
|---|---|---|---|---|
| Predict | Cosmos Predict2 | 2025年6月 | Text2Imageと、テキスト・画像・動画・行動を条件に未来の映像を生成するVideo2Worldを提供 | NVIDIA Open Model License |
| Predict | Cosmos Predict2.5 | 2025年10月 | Text2World、Image2World、Video2Worldを単一のフローベースモデルへ統合 | NVIDIA Open Model License |
| Transfer | Cosmos Transfer2.5 | 2025年10月 | RGB、深度、セグメンテーション、エッジなど複数の空間制御を条件に映像を変換 | NVIDIA Open Model License |
| Reason | Cosmos Reason2 | 2025年12月 | 画像・動画の時空間理解、物理常識、Embodied Reasoningに対応するVLM | NVIDIA Open Model License |
モデル規模と実行環境の目安
Cosmos 2は系列とチェックポイントによって規模が異なります。
Reason2の2B・8B版は24~48GBのGPU 1枚で扱える範囲ですが、PredictやTransferによる動画生成は、解像度とフレーム数に応じて80GB級のGPUや複数GPUが必要になる場合があります。
Cosmos 3ではこれらが統合され、GeneratorがPredictの機能を中核としながら、Transferに近い変換や行動生成も担っています。
Cosmos Reason2はNVIDIA AI BlueprintのVSS(Video Search and Summarization)などで使用されています。
Omniverseについて
NVIDIA Omniverseは、OpenUSDを基盤とする3Dアプリケーションやシミュレーションを構築するためのSDK、API、マイクロサービスなどからなる開発プラットフォームです。OpenUSDは、3D空間、物体、材質などを共通の形式で記述・組み合わせるためのオープンソースのフレームワークです。
Cosmosが現実世界の画像、動画、行動などを生成・理解するAIモデルを提供するのに対し、Omniverseは工場、倉庫、道路などの3D空間を再現し、物理現象やセンサーをシミュレーションするための環境を提供します。
両者を組み合わせることで、シミュレーションで作ったデータの見た目や条件をCosmosで変化させ、ロボットや自動運転システムの学習・テストに利用できます。
後述のIsaac Simも、Omniverseの開発基盤を利用して構築されています。
活用事例
現時点で組織名と用途が公表されているのは、主にCosmos 3以前のPredict、Transfer、Reasonの事例です。
ロボットと自動運転の学習データ生成では、以下の事例が紹介されています。
1X社はCosmos PredictとCosmos Transferを使い、ヒューマノイドロボット「NEO Gamma」の学習用データを作成しています。
Skild AI社はCosmos Transferでロボットの合成データを拡充しています。
Nexar・Oxa社はCosmos Predictを自動運転システムの開発に利用しています。
Foretellix社はCosmos TransferとOmniverseで同じ走行シナリオの天候や照明を変化させ、学習・テスト用データを作成しています。
Cosmos Reasonについては、以下の事例が紹介されています。
Uber社は自動運転の学習用データに説明文やラベルを付与しています。
Magna社は自動配送車の長期的な走行計画に、周囲の状況理解を追加しています。
VAST Data、Milestone Systems、Linker Vision社は交通監視、安全性の確認、都市・産業現場の映像検査に採用しています。
参考リンク
- DGX Spark で NVIDIA Cosmos 世界基盤モデルを動かしてみた | DevelopersIO
- NVIDIA Cosmos-Reason2 で画像と動画の構造化分析を DGX Spark で試してみた | DevelopersIO
- NVIDIA Cosmos-Reason2-8B を DGX Spark で PPE 検出向けにファインチューニングしてみた | DevelopersIO
NVIDIA Isaac GR00T
GR00Tは、汎用ロボット、特にヒューマノイド向けのオープンウェイトなVision-Language-Action(VLA)基盤モデルと開発プラットフォームです。
GR00TはGeneralist Robot 00 Technologyの略です。
VLAモデルとは、画像・動画などの視覚情報(Vision)、自然言語による指示(Language)、ロボットの現在の状態などを入力として、ロボットが実行する行動(Action)を生成するモデルです。

主なモデルは以下の通りです。
| モデル | 公開年月 | 主な特徴 | 公開範囲 | ライセンス |
|---|---|---|---|---|
| GR00T N1 2B | 2025年3月 | VLMによる理解・計画と、Diffusion Transformerによる連続行動生成を組み合わせた初代VLA基盤モデル | 重み・コード公開 | NVIDIA License (非商用の研究・評価用途のみ) |
| GR00T N1.5 3B | 2025年6月 | 言語指示への追従と未知物体・タスクへの汎化を改善。人間視点の動画から学習するFLAREを導入。 | 重み・コード公開 | NVIDIA License (非商用の研究・評価用途のみ) |
| GR00T N1.6 3B | 2025年12月 | Cosmos系VLMと大型化したDiffusion Transformerを採用。双腕操作やUnitree G1などの全身移動操作への対応を強化。 | 重み・コード公開 | NVIDIA License (非商用の研究・評価用途のみ) |
| GR00T N1.7 3B | 2026年4月 | Cosmos Reason2-2BをVLM基盤に採用。人間の一人称動画からの学習、ロボットアーム先端(EEF)の移動量を表す相対座標、長時間タスクの性能を改善。 | 重み・コード公開(Early Access版) | NVIDIA Open Model License (商用利用可) |
| GR00T N2 | (2026年内の提供予定) | DreamZero研究を基礎とする次世代モデル。ロボットの行動だけでなく、その行動によって周囲がどう変化するかも同時に予測するWorld Action Modelと発表。 | (不明) | (不明) |
モデル規模と実行環境の目安
公開済みのN1系列は2B~3B級で、推論はGPU 1枚で扱える規模です。
N1.7はL40、RTX PRO 6000、DGX Spark、Jetson AGX Thorなど1台・1枚構成での測定結果が公開されています。
一方、シミュレーション、追加学習、複数ロボット分の並列処理では、モデル推論とは別に追加のGPUが必要になります。
モデルの重みと、Isaac GR00Tのソースコードではライセンスが異なります。
特にN1〜N1.6のモデル重みは非商用利用に限定されるため、商用利用時は各モデルカードの条件を確認する必要があります。
Cosmos 3のRobot Policyとの違い
前述のCosmos 3のRobot Policyとの違いは、GR00T N1系列がVLMを基盤としてロボットの行動生成に特化したVLAモデルであるのに対し、Cosmos 3のRobot Policyは世界モデルを基盤として、ロボットの行動とその行動によって生じる未来の動画を同時に生成するモデルである点です。
GR00Tはクロスエンボディ性能(複数種のロボットを共通モデルで扱う能力)と実機でのロボット制御を重視しており、Cosmos 3のRobot Policyは行動と物理世界の時間的な変化を一体として学習・予測することを重視しています。
ただし、次世代のGR00T N2はWorld Action Modelを採用する予定であり、両者のアーキテクチャ上の違いは小さくなる方向にあるようです。
Isaacについて
なお、IsaacはNVIDIAのロボット開発技術をまとめた上位プラットフォームです。主な構成要素は以下の通りです。
| 構成要素 | 種類 | 主な役割 | 公開範囲 | ライセンス |
|---|---|---|---|---|
| Isaac Sim | ロボットシミュレーター | 物理シミュレーション、テスト、合成データ生成 | ソースコードをGitHubで公開 | ソースコードはApache 2.0 追加ソフトウェア・素材には別ライセンスが適用 |
| Isaac Lab | ロボット学習フレームワーク | 強化学習、模倣学習、方策評価、ロボット基盤モデルの学習 | ソースコードをGitHubで公開 | BSD 3-Clause |
| Isaac ROS | ROS 2パッケージ群 | GPU高速化された認識、SLAM、深度推定、3D再構築、経路計画 | 主なパッケージをGitHubで公開 | 主なパッケージはApache 2.0 個別ライブラリ・モデルは別条件の場合あり |
| Isaac Teleop | 遠隔操作フレームワーク | XRヘッドセットなどを使ったロボットの遠隔操作とデモデータ収集 | ソースコードをGitHubで公開 | Apache 2.0 |
Isaacとしては、これらに加えていくつかの参照ワークフローが公開されています。
Isaac for Manipulation
Isaac for Manipulationは、マニピュレーション向けの参照ワークフローです。
マニピュレーションはロボットアームや手を使って、物体をつかむ、動かす、組み立てる、工具を使うなどの操作を行うことです。日本語では「物体操作」と表現できます。
Isaac for Manipulationは、動作計画、深度推定、3D環境再構築、物体検出、物体姿勢推定などのIsaac ROSパッケージを組み合わせた参照ワークフローです。衝突を避けながら物体をつかんで移動するPick and Placeなどの実装例を提供します。
Isaac Perceptor
Isaac Perceptorは、AMR向けの参照ワークフローです。
AMR(Autonomous Mobile Robot)は周囲を認識しながら、自律的に経路を決めて移動するロボットのことです。日本語では「自律搬送ロボット」または「自律移動ロボット」と呼ばれます。倉庫内で荷物を運ぶロボットなどが代表例です。
Isaac Perceptorは、自己位置推定、深度推定、3D環境再構築、画像処理などのIsaac ROSパッケージを組み合わせたAMR向けの参照ワークフローです。カメラ映像から自己位置と周辺環境を認識し、後段の経路計画で利用する3D地図やコストマップを生成する実装例を提供します。
活用事例
2025年のNVIDIA発表では、以下の事例が紹介されています。
AeiRobot社は、GR00T Nモデルをヒューマノイドロボット「ALICE4」に利用し、自然言語の指示に従ったPick and Placeなどを実行しています。
Foxlink社は、産業用ロボットアームの柔軟性と効率の向上に利用しています。
Lightwheel社は、ロボット学習用の合成データの検証に利用しています。
NEURA Robotics社は、家庭内の作業を自動化するロボット向けに評価しています。
2026年にはAGIBOT、Humanoid、LG Electronics、Noble MachinesなどもGR00T Nモデルを採用しています。
参考リンク
- NVIDIA Expands Open Model Families to Power the Next Wave of Agentic, Physical and Healthcare AI | NVIDIA Newsroom
- NVIDIAがUnitree G1向けの一気通貫ワークフロー「GR00T reference workflow」を公開したので読み解いてみた | DevelopersIO
- AWSのPhysical AI Scaffolding Kit (PASK)を試す② — HyperPodでNVIDIA Isaac GR00Tをファインチューニング | DevelopersIO
NVIDIA Alpamayo
NVIDIA Alpamayoは、自動運転向けのオープンウェイトなVision-Language-Action(VLA)基盤モデルと開発プラットフォームです。
車載カメラ映像、車両の移動履歴、テキスト指示(ナビゲーション)などを入力として、交通状況を理解・推論し、運転判断の説明と将来の車両軌道を出力します。Alpamayo 1.5以降では、明示的なナビゲーション指示にも対応しています。
以下の図は、Alpamayo 2 Superが車両の移動履歴、複数の車載カメラ映像、任意のナビゲーション指示や質問を受け取り、運転判断とその理由を生成する流れを示しています。

入力は移動、映像、言語のエンコーダーによってモデルが扱える形式へ変換され、Cosmos 3 Super ReasonerとAction Expertで処理されます。
出力には、状況と因果関係の説明(Causal Reasoning)、将来の車両軌道(Trajectory)、画像に関する質問への回答(VQA Response)、大まかな運転判断(Meta-Actions)、判断対象が画像内のどこにあるかを示す位置情報(2D Grounding)が含まれます。
主なモデルは以下の通りです。
| モデル | 公開年月 | 主な特徴 | 公開範囲 | ライセンス |
|---|---|---|---|---|
| Alpamayo 1 (10B) 旧称:Alpamayo-R1 |
2025年12月 | Cosmos Reasonを基盤に採用。複数の車載カメラ映像と車両の移動履歴から、運転判断とその理由、6.4秒先までの車両軌道を生成する初代モデル。 | 重み・推論コード公開 | OpenMDW 1.1 (モデルカード上は非商用利用向けで、商用利用は要問い合わせ) |
| Alpamayo 1.5 (10B) | 2026年3月 | Cosmos Reason2を基盤に採用。ナビゲーション指示、カメラ台数の変更、運転場面に関する質問への回答に対応。 | 重み・コード公開 | OpenMDW 1.1 (モデルカード上は非商用利用向けで、商用利用は要問い合わせ) |
| Alpamayo 2 Super (34B) | 2026年8月 | 32BのCosmos 3 Super Reasonerと約2.3BのAction Expertを採用。前後左右のカメラによる周辺認識に拡張し、譲る・車線変更・停止などの大まかな運転判断、画像内の対象位置を示した説明、学習用ラベルの生成に対応。 | 重み・推論コード公開 | OpenMDW 1.1 |
モデル規模と実行環境の目安
Alpamayo 1/1.5 10Bの公式最小構成は、24GB以上のGPU 1枚です。
Alpamayo 2 Super 34BはBF16の重みだけで約68GBとなります。公式に検証されている構成はH100 80GB 1枚で、推論時のピーク使用量は約72GBです。
複数のカメラ映像を同時に扱うため、入力するカメラ数、フレーム数、解像度によっては、より多くのメモリが必要になります。
Alpamayoはモデルだけでなく、シミュレーターやデータセットも含む開発プラットフォームであり、主な構成要素は以下の通りです。
| 構成要素 | 種類 | 主な役割 | 公開範囲 | ライセンス |
|---|---|---|---|---|
| Alpamayo Models | VLA基盤モデル | 車載カメラ映像などから運転状況を理解し、運転判断とその理由、将来の車両軌道を生成 | Hugging Faceで重み公開。一部はアクセス申請が必要 | モデルごとに差異あり |
| Physical AI AV Dataset | 実走行データセット | 車載カメラ、LiDAR、レーダー、車両の移動履歴、運転判断の説明などのデータをモデルの学習・評価に利用 | Hugging Faceで公開。利用には規約への同意が必要 | NVIDIA Autonomous Vehicle Dataset License Agreement |
| Physical AI AV NuRec Dataset | シミュレーション用データセット | 実際の走行データから再構築した道路環境をAlpaSimで再生・評価 | Hugging Faceで公開。利用には規約への同意が必要 | NVIDIA Autonomous Vehicles NuRec Dataset License Agreement |
| AlpaSim | 自動運転シミュレーター | モデルの運転判断をシミュレーションし、その結果を次の判断へ反映しながら走行全体を評価 | ソースコードをGitHubで公開 | Apache 2.0 |
| AlpaGym | 追加学習フレームワーク | AlpaSimでの走行結果を評価し、その評価を報酬として運転モデルを追加学習 | ソースコードをGitHubで公開 | Apache 2.0 |
| Alpamayo Recipes | 学習・利用サンプル | モデルの追加学習、量子化、評価、実行の手順とサンプルコードを提供 | ソースコードをGitHubで公開 | Apache 2.0 |
活用事例
NVIDIAは、Alpamayoを活用する組織としてJLR社、Lucid社、Uber社、Berkeley DeepDriveを紹介しています。
Alpamayoはそのまま車載して運転させるというより、大規模な教師モデルとして、車載向けモデルの追加学習や小型化、まれな運転場面の評価などに使うことが想定されています。
参考リンク
- Generate Trajectories, Reasoning Traces, and Auto-Labels with NVIDIA Alpamayo 2 Super | NVIDIA Technical Blog
- NVIDIAの自動運転VLA「Alpamayo」をAWS環境で動かしてみた | DevelopersIO
- NVIDIAが自動運転向けシミュレータ「AlpaSim」を公開したので調べてみた | DevelopersIO
関連するNVIDIA Blueprints
ここまで紹介してきたモデルや開発基盤は、AIアプリケーションを構成する部品です。実際のアプリケーションでは、複数のモデルにデータ処理、検索、外部ツールとの連携、画面、配備設定などを組み合わせる必要があります。
NVIDIA Blueprintsは、こうした一連の処理をユースケース別に構成した、カスタマイズ可能な参照ワークフローです。単体のモデルや製品ではなく、NVIDIAやパートナーのモデル、NIM、ライブラリ、SDKなどをどのようにつなげればよいかを、参照アーキテクチャやコードとして示します。Blueprintによって異なりますが、カスタマイズ方法を説明するドキュメントや、Docker Compose、Helmチャートなどの配備用ファイルも提供されます。
以下は、現行カタログに掲載されているものや2026年に発表・更新されたものを中心に、この記事で紹介したモデルと関連の深い例を抜粋したものです。
| Blueprint | 実現する処理 | 関連する主な技術 |
|---|---|---|
| Enterprise RAG | 文書から文字・表・画像などを取り出して検索し、関連情報を基に回答を生成 | Nemotron Parse、Nemotron Retriever、Nemotron 3のNIM |
| AI-Q | 社内文書やWebなどを調査し、出典付きの回答や詳細なレポートを作成 | Nemotron、NeMo Agent Toolkit、NIM、Enterprise RAG Blueprint |
| NemoClaw for LangChain Deep Agents Code | コードの調査、編集、テストを行うAIエージェントを、アクセス範囲が制御された環境で実行 | Nemotron 3 Ultra、NemoClaw、OpenShell、LangChain Deep Agents Code |
| Video Search and Summarization | ライブ映像や録画映像を検索・要約し、映像に関する質問へ回答 | Cosmos Reason2、NemotronのNIM |
| Nemotron Voice Agent | 音声を文字に変換し、回答を生成して音声で返す、割り込み可能なリアルタイム音声対話 | Nemotron Speech、Nemotron 3、Magpie TTSのNIM |
| Physical AI Data Factory | 実写・シミュレーションデータの整理、合成データによる拡張、品質評価を自動化 | Cosmos Curator、Cosmos Transfer、Cosmos Evaluator、OSMO |
| Mega | 仮想の工場や倉庫で多数のロボットを動かし、配置、経路、安全性などを実機導入前に検証 | Omniverse、Isaac Sim、Isaac ROS |
| Factory Operations(FOX) | 工場のデータや機械を監視し、品質管理、搬送、安全などを担当する複数のAIエージェントを統括 | Nemotron、AI-Q Blueprint、NemoClaw(発表済み・提供開始前) |
Blueprintは完成済みアプリケーションをそのまま導入するための製品というより、自社のデータや要件に合わせて開発するための出発点です。構成要素は変更・置換できます。また、Blueprintのコード、モデル、NIMなどには、それぞれ個別のライセンスや利用条件が適用されます。
まとめ
前編では、NVIDIAのNemotronとPhysical AI向けモデル、それらに関連するBlueprintを紹介しました。
NVIDIAはモデルだけでなく、NeMo、Isaac、Omniverseなど、用途別の開発基盤も提供しています。
また、複数のモデル、NIM、ライブラリなどをユースケース別に組み合わせた参照ワークフローとして、NVIDIA Blueprintsを利用できます。
企業向けには、検証済みのソフトウェア構成、セキュリティアップデート、保守・サポートを提供する商用基盤のNVIDIA AI Enterpriseがあります。NVIDIA NIMは、モデルを最適化済みの推論マイクロサービスとして配備する仕組みです。LLM向けの通常のNIMはNVIDIA AI Enterpriseを契約せずに利用できますが、本番運用向けのNIM Certifiedには契約が必要です。モデル自体のライセンスや利用条件は、NIMとは別に確認する必要があります。
後編では、時系列分析、気象、医療・創薬、量子コンピューティング向けのモデルと開発基盤を紹介します。本記事が皆様のお役に立てば幸いです。









