室谷代表取締役Vera Rubin NVL72（ヴェラ・ルービン・エヌブイエル72）は、NVIDIAが2026年に発表したBlackwell後継世代のラックスケールAIシステムで、72基のRubin GPUと36基のVera CPUを1つのNVLinkドメインに接続し、エージェント型AI推論を大規模に回せるのが特徴なんですよね。
テキトー教師DotAI 認定講師そのVera Rubin NVL72について、AI評価機関のArtificial Analysisが2026年10月15日に、エージェント型推論ベンチマーク「AA-AgentPerf」の初回結果を公開したんですよ。前世代のGB300 NVL72と比べて、電力あたりスループットが最大約5.7倍に達したと報告しています。
室谷代表取締役これ、単なるスペック自慢じゃなくて、AIデータセンターの制約が「GPUの設置台数」から「電力」に移っている流れを踏まえた結果なんですよね。同じ電力枠でどれだけエージェントを動かせるかが、収益に直結する時代になってきている……。
テキトー教師DotAI 認定講師まさにそこがポイントで、単に「速くなった」という話じゃないんですよ。まずは何が発表されたかを整理しましょう。
Vera Rubin NVL72とは？72基のRubin GPUを搭載したBlackwell後継システム
Vera Rubin NVL72 vs Blackwell Ultra 主要スペック比較
Vera Rubin NVL72
- GPU: Rubin GPU 72基（各288GB HBM4）
- CPU: Vera CPU 36基（88コア、NVLink-C2C帯域は前世代の2倍）
- メモリ帯域: 19.2TB/s
- NVLink帯域: 3.0TB/s（NVLink 6）
- 密なNVFP4演算: 35 PFLOPS
- ラック構成: 100%液冷、第3世代MGX NVL72設計
- NVL72全体: NVFP4推論3,600 PFLOPS／NVFP4学習2,520 PFLOPS／GPUメモリ20.7TB HBM4
Blackwell Ultra
- GPUメモリ容量: 288GB HBM4（Rubin GPUと同容量）
- メモリ帯域: 8TB/s
- NVLink帯域: 1.8TB/s
- 密なNVFP4演算: 15 PFLOPS
テキトー教師DotAI 認定講師まず基本スペックから押さえましょう。Vera Rubin NVL72は、NVIDIAのBlackwell後継であるVera Rubin世代のラックスケールシステムです。
構成は72基のRubin GPUと36基のVera CPUで、第6世代NVLinkで1つの大規模GPUのように接続します。
構成は72基のRubin GPUと36基のVera CPUで、第6世代NVLinkで1つの大規模GPUのように接続します。
室谷代表取締役MYUUUでもラックスケールの話はよく出るんですが、要は「1ラックを1つの巨大な計算機として扱う」設計なんですよね。100%液冷で、NVIDIAのMGX NVL72の第3世代ラック設計をベースにしているので、前世代からの移行もしやすいとされています。
テキトー教師DotAI 認定講師GPU単体のスペックも整理しておきますね。Rubin GPUはメモリ容量こそBlackwell Ultraと同じ288GB HBM4ですが、メモリ帯域が2.4倍、NVLink帯域が1.7倍、密なNVFP4演算が2.3倍になっています。
室谷代表取締役メモリ容量は据え置きで帯域を一気に上げてきたのがポイントで、エージェント型の推論はコンテキストを大量に読み書きするので、帯域とNVLinkが効いてくるんですよ。
テキトー教師DotAI 認定講師整理すると、こうです。
- GPU: Rubin GPU 72基（各288GB HBM4）
- CPU: Vera CPU 36基（88コア、NVLink-C2C帯域は前世代の2倍）
- メモリ帯域: 19.2TB/s（Blackwell Ultraは8TB/s）
- NVLink帯域: 3.0TB/s（NVLink 6、Blackwell Ultraは1.8TB/s）
- 密なNVFP4演算: 35 PFLOPS（Blackwell Ultraは15 PFLOPS）
- ラック構成: 100%液冷、第3世代MGX NVL72設計
室谷代表取締役NVIDIAの公式ページでは、NVL72全体でNVFP4推論3,600 PFLOPS、NVFP4学習2,520 PFLOPS、GPUメモリ20.7TB HBM4という数字も示されています。DGX Vera Rubin NVL72のデータシートでも同じ構成が説明されていて、DGX SuperPODでギガスケールのAIファクトリーに拡張できる設計になっています。
テキトー教師DotAI 認定講師講座でもよく聞かれるんですが、「前世代と何が違うの？」という点は、メモリ容量ではなく帯域とNVLink、そして電力効率に振っているのが答えになります。
AA-AgentPerfとは？エージェント型コーディングで測る新しい推論ベンチマーク
まとめ
AA-AgentPerfとは？エージェント型コーディングで測る新しい推論ベンチマーク
- Artificial Analysisが提供するエージェント型推論の性能ベンチマークで、実際のコーディングエージェントの軌跡を再生して測定する
- エージェントは「推論→ツール呼び出し→結果を会話に追加→またモデルへ」というループを回し、コンテキストが累積する
- リクエストの入力トークンの平均97%が前回の繰り返しになるため、KVキャッシュに繰り返し部分を保持できるかで効率が大きく変わる
- ワークロード統計: 500の軌跡、18,997リクエスト、1リクエストあたり最大132K入力トークン、1軌跡で最大182リクエスト、最大11M入力トークン、ツール呼び出しの待ち時間は最大5秒
- 出力は短いツール呼び出しが多く、初回トークンまでの時間とスケジューリングのオーバーヘッドが効くため「トークン/秒」だけでは実態を見誤る
- 測定指標は「測定GPU電力あたりの総スループット（トークン/秒/MW）」と「ユーザーあたり出力速度（リクエストの25パーセンタイル）」の2つ
- システム全体の利用率と個々のユーザー体験のトレードオフを可視化する設計
室谷代表取締役ここからが今回の本題で、AA-AgentPerfというベンチマークの話なんですよね。これはArtificial Analysisが提供するエージェント型推論の性能ベンチマークで、実際のコーディングエージェントの軌跡を再生して測定するものです。
テキトー教師DotAI 認定講師普通のチャットと何が違うかというと、エージェントは「推論→ツール呼び出し→結果を会話に追加→またモデルへ」というループを回すんですよ。コンテキストがどんどん累積していって、リクエストの入力トークンの平均97%が前回の繰り返しになる。
室谷代表取締役だからKVキャッシュにその繰り返し部分を保持できるかどうかで、効率がまるで変わるんですよね。毎回フルコンテキストを再処理していたら、電力がいくらあっても足りない……。
テキトー教師DotAI 認定講師AA-AgentPerfのワークロード統計も見ておきましょう。500の軌跡、18,997リクエストを対象にしていて、1リクエストあたり最大132Kの入力トークン、1つの軌跡で最大182リクエスト、最大11Mの入力トークン、ツール呼び出しの待ち時間は最大5秒です。
室谷代表取締役しかも出力は短いツール呼び出しが多いので、初回トークンまでの時間とスケジューリングのオーバーヘッドが効いてくる。だから「トークン/秒」だけ見ていると実態を見誤るんですよね。
テキトー教師DotAI 認定講師測定指標は「測定GPU電力あたりの総スループット（トークン/秒/MW）」と「ユーザーあたり出力速度」の2つです。後者はリクエストの25パーセンタイル、つまり4分の3のリクエストが超えた速度を見ています。
室谷代表取締役システム全体の利用率と、個々のユーザー体験のトレードオフを可視化する設計になっているわけですね。
Vera Rubin NVL72の性能：GB300 NVL72比で最大約5.7倍の電力あたりスループット
Vera Rubin NVL72 vs GB300 NVL72：モデル別スループット/MW比較
| モデル | Vera Rubin NVL72 | GB300 NVL72 | 倍率 |
|---|---|---|---|
| DeepSeek V4 Pro | 272M | 239M | 1.14倍 |
| DeepSeek V4.1 Flash | 571M | 395M | 1.45倍 |
| GLM-5.2 | 272M | 201M | 1.35倍 |
| Kimi K3 | 70M | 56M | 1.26倍 |
テキトー教師DotAI 認定講師では結果です。Vera Rubin NVL72は、前世代GB300 NVL72比で電力あたりスループットが最大約5.7倍に達しました。
モデル別ではDeepSeek V4 Proで約5.7倍、DeepSeek V4.1 Flashで約5.4倍、GLM-5.2で約3.0倍、Kimi K3で約2.8倍です。
モデル別ではDeepSeek V4 Proで約5.7倍、DeepSeek V4.1 Flashで約5.4倍、GLM-5.2で約3.0倍、Kimi K3で約2.8倍です。
室谷代表取締役ここで大事なのは、ピークスループットでは両者そこまで差が開かないという点なんですよね。DeepSeek V4 ProでVera Rubinが272Mトークン/秒/MW、GB300が239Mで1.14倍。
DeepSeek V4.1 Flashで571M対395Mの1.45倍、GLM-5.2で272M対201Mの1.35倍、Kimi K3で70M対56Mの1.26倍です。
DeepSeek V4.1 Flashで571M対395Mの1.45倍、GLM-5.2で272M対201Mの1.35倍、Kimi K3で70M対56Mの1.26倍です。
テキトー教師DotAI 認定講師差が開くのは「ユーザーあたり速度を上げたとき」なんですよ。DeepSeek V4 Proでユーザーあたり約120から約165トークン/秒に上げると、GB300はスループット/MWの81%を失うのに対し、Vera Rubinは16%しか失わない。
室谷代表取締役これ、実運用ではめちゃくちゃ効くんですよね。ユーザー体験を良くしようとするとスループットが落ちる、というトレードオフが、Vera Rubinではかなり緩やかになっている。
テキトー教師DotAI 認定講師電力効率が上がるとトークンあたりの運用コストが下がりますし、AIデータセンターが電力で制約される以上、同じデータセンターからより多くのエージェントを出せることになります。約165トークン/秒/ユーザーの地点では、同じGPU電力予算でDeepSeek V4 Proのトークンを約5倍提供できるとされています。
室谷代表取締役ちなみにNVIDIAの公式ブログでは、SemiAnalysis AgentXのデータとして、GB300 NVL72比で最大30倍のスループット/MW、トークンコスト45分の1という数字も示されています。ただしこれは別のベンチマークでの結果なので、AA-AgentPerfの数字とは切り分けて見たほうがいいです。
テキトー教師DotAI 認定講師そうですね。AA-AgentPerfはArtificial Analysisの独立した測定、SemiAnalysis AgentXは別の測定、と分けて理解するのが正確です。
モデル別に見る初回結果：DeepSeek V4 Pro／V4.1 Flash／GLM-5.2／Kimi K3
室谷代表取締役モデルごとに傾向が違うのが面白いところで、順番に見ていきましょうか。
テキトー教師DotAI 認定講師まずDeepSeek V4 Proです。総パラメータ1.6T、アクティブ49Bで、圧縮スパースと強圧縮アテンションのハイブリッドで長コンテキストでもKVキャッシュを小さく保つ設計です。
ピークでは272Mトークン/秒/MW（69トークン/秒/ユーザー）でGB300の1.14倍、約120トークン/秒/ユーザーまで約1.1倍を維持します。
ピークでは272Mトークン/秒/MW（69トークン/秒/ユーザー）でGB300の1.14倍、約120トークン/秒/ユーザーまで約1.1倍を維持します。
室谷代表取締役そして約130トークン/秒/ユーザーを超えたあたりからGB300のスループットが落ちていって、約165で174M対34Mの5.1倍、約190で132M対約23Mの約5.7倍になる。ここが最大のリードなんですよね。
テキトー教師DotAI 認定講師ただし注意点もあって、NVIDIAのGB300ラック構成は約163トークン/秒/ユーザーで頭打ちになるため、それ以上のGB300の線はArtificial Analysisが組んだ小さな4GPU構成によるものだと注記されています。また、Vera Rubinの構成は初回トークンまでの時間が長め（約165トークン/秒/ユーザーで中央値1.65秒、GB300は1.08秒）で、初回トークンを含むエンドツーエンド速度で測ると、多くの速度域でGB300が同等以上になる点も明記されています。
室谷代表取締役ここは公平に見ておきたいところですね。あくまで「初回トークンを除いた出力速度」での比較だという前提を押さえておく。
テキトー教師DotAI 認定講師次にDeepSeek V4.1 Flashです。バックボーン552B、prefillで8B、decodeで16Bをアクティブ化し、196BのEngramメモリをトークンルックアップで読む構成。
スパースアテンションとFP4 KVキャッシュでKVキャッシュをトークンあたり約890バイトに抑えています。
スパースアテンションとFP4 KVキャッシュでKVキャッシュをトークンあたり約890バイトに抑えています。
テキトー教師DotAI 認定講師ピークは571Mトークン/秒/MW（68トークン/秒/ユーザー）で、これは4モデル中で最高のスループット/MWです。B300のピーク433M、GB300 NVL72の395Mを上回っています。
室谷代表取締役そしてユーザーあたり速度が上がるほどリードが広がって、約230から約350トークン/秒/ユーザーでGB300の約3.4倍から3.6倍、約580で約5.4倍。単一の4GPUサーバーで1エージェントを動かして906トークン/秒/ユーザーという、リーダーボード全モデル中最速の結果も出しています。
テキトー教師DotAI 認定講師1点だけ注記があって、このDeepSeek V4.1 FlashのVera Rubinの結果は出力を2,048トークンでキャップしていて、他のリーダーボード結果は16,384トークンなんですよ。約2%の応答がキャップに達し、平均応答が1割ほど短くなっており、これがVera Rubinのスループットをわずかに有利にしていると明記されています。
室谷代表取締役こういう細かい条件まで書いてくれるのがArtificial Analysisの信頼できるところですよね。
テキトー教師DotAI 認定講師続いてGLM-5.2です。総753B、アクティブ40BでDeepSeek系のスパースアテンションを採用しています。
ピークは272Mトークン/秒/MW（84トークン/秒/ユーザー）でGB300の1.35倍。
ピークは272Mトークン/秒/MW（84トークン/秒/ユーザー）でGB300の1.35倍。
テキトー教師DotAI 認定講師約165トークン/秒/ユーザーで159Mトークン/秒/MW、GB300の同じ速度での約53Mに対して約3.0倍で、約310トークン/秒/ユーザーまで約2.7倍から3倍の差が続きます。最速結果は408トークン/秒/ユーザーで、リーダーボードのGLM-5.2最速を更新しています。
室谷代表取締役初回トークンを含むエンドツーエンドで測っても、この範囲では1.1倍から1.8倍を維持しているというのも書かれていますね。
テキトー教師DotAI 認定講師最後にKimi K3です。今回扱う中で最大のモデルで、総2.8T、アクティブ104B、93層のうち69層で線形アテンションを使うハイブリッド設計です。
テキトー教師DotAI 認定講師ピークは70Mトークン/秒/MW（41トークン/秒/ユーザー）でGB300の56Mに対して1.26倍。約67トークン/秒/ユーザーで約2.8倍（59M対約21M）、30エージェント構成では176トークン/秒/ユーザーで約2.4倍（9.6M対約4.0M）です。
室谷代表取締役ただしKimi K3は他の3モデルより全システムがずっと少ないトークン数しか出せていなくて、NVIDIAの現行Vera Rubin構成では約74から176トークン/秒/ユーザーの間にギャップがあると指摘されています。最速は255トークン/秒/ユーザーでリーダーボード最速を更新しています。
テキトー教師DotAI 認定講師モデルごとに最適な構成が違うので、自分たちのワークロードに近いモデルの結果から構成を選ぶのが実践的ですね。Artificial Analysisは各点に対応する構成を構成ブラウザで公開しているので、独自に性能調査をしなくてもチューニング済みの出発点から始められると説明しています。
なぜエージェント型AIでVera Rubin NVL72が強いのか：高速域でも落ちにくい電力効率
室谷代表取締役ここが一番おいしいところで、なぜ高速域でVera Rubinが強いのかという話なんですよね。NVIDIAはVera Rubinのスタックをエージェント型ワークロード向けにチューニングしていると説明しています。
テキトー教師DotAI 認定講師具体的には、disaggregated servingでprefillとdecodeを分離してそれぞれ独立にスケールさせ、rate matchingでprefill GPUとdecode GPUのトークン生成速度を同期させます。さらに大規模エキスパート並列でMoEのエキスパートをスケールアップGPUドメインに分散し、分散KVキャッシュでメモリを拡張、KVキャッシュオフロードで非アクティブなコンテキストをホストやストレージに退避します。
室谷代表取締役KV-awareルーティングで、すでに関連するキャッシュを持つGPUにリクエストを振り分けて冗長な計算を減らす。MegaMoEのような融合CUDAカーネルで計算とGPU間通信を1パスにまとめる。
まさにエージェント推論の特性に合わせた最適化の積み重ねなんですよ。
まさにエージェント推論の特性に合わせた最適化の積み重ねなんですよ。
テキトー教師DotAI 認定講師ハードウェア側では、Rubin GPUの第5世代Tensor Coreと第3世代Transformer Engineがprefillとdecodeの両方を加速し、NVFP4量子化でモデル重みを4ビットに圧縮してメモリフットプリントを減らしつつスループットを上げます。
室谷代表取締役NVL72のスケールアップドメインがあるから、大規模エキスパート並列や分散KVキャッシュが現実的に動く。NVLink 6とNVLinkスイッチは、既製のEthernet代替と比べて10倍のパケットレートと3分の1のレイテンシを実現すると説明されています。
テキトー教師DotAI 認定講師ソフトウェア側はTensorRT-LLMやvLLM、NVIDIA Dynamoといった推論ランタイムとサービングフレームワークがハードウェアと共同設計されている点が大きいですね。NVIDIAは今回のVera Rubinの全結果を自ら提出し、TensorRT-LLMとvLLMをNVIDIA Dynamoで動かしたと説明しています。
室谷代表取締役だから「カーネルやサービングソフトの最適化が進むにつれて、両システムの差はさらに広がる見込み」とArtificial Analysisも書いているんですよね。今の数字はまだ初期段階ということです。
テキトー教師DotAI 認定講師Vera Rubin NVL72はいつから・どこで使える？提供状況と今後の最適化
室谷代表取締役提供状況も気になるところですよね。NVIDIAの公式ページではVera Rubin NVL72は「Available Now」と表示されていて、量産体制に入っていると説明されています。
台湾の主要サーバーメーカーやサプライチェーンの企業が大規模に製造し、Vera Rubinベースのシステムを出荷しているとのことです。
台湾の主要サーバーメーカーやサプライチェーンの企業が大規模に製造し、Vera Rubinベースのシステムを出荷しているとのことです。
テキトー教師DotAI 認定講師日本との関連も発表されていて、NVIDIAはNoetra Corp.と協力して、13,750基のVera CPUと27,500基のRubin GPUを備えた国家物理AI向けのVera Rubin AIファクトリーを立ち上げるとしています。
室谷代表取締役国内でエージェントAIを大規模に回す基盤が整ってくる流れは、日本で開発する側からしても無視できないですよね。
テキトー教師DotAI 認定講師導入方法としては、NVIDIAの公式ページから営業に問い合わせる形で提供されると案内されています。DGX Vera Rubin NVL72は、NVIDIA Mission Control、NVIDIA AI Enterprise、NVIDIA DGX OSを含む統合ソフトウェアスタックを備え、DGX SuperPODで複数ラックにスケールできる設計です。
室谷代表取締役80以上のMGXエコシステムパートナーからのサポートがあるとされているので、ベンダー経由での導入も進んでいくんでしょうね。
テキトー教師DotAI 認定講師なお、具体的な価格や利用可能なクラウド事業者、提供時期の詳細は、今回のソースでは明らかにされていません。今後の最適化で性能が伸びる見込みだという点は、Artificial AnalysisもNVIDIAも共通して述べています。
室谷代表取締役Vera Rubin NVL72に関するよくある質問
テキトー教師DotAI 認定講師ここからは、よく聞かれる点を整理していきますね。
室谷代表取締役まず「Vera Rubin NVL72の基本スペックは？」という点。72基のRubin GPU、36基のVera CPU、GPUメモリ20.7TB HBM4、NVFP4推論3,600 PFLOPS、NVFP4学習2,520 PFLOPS、100%液冷のラックスケール設計です。
テキトー教師DotAI 認定講師「GB300 NVL72と比べてどれだけ向上したか」については、AA-AgentPerfで電力あたりスループットが最大約5.7倍（DeepSeek V4 Pro）、ピークスループットでは1.14倍から1.45倍という結果です。GPU単体ではメモリ帯域2.4倍、NVLink帯域1.7倍、密なNVFP4演算2.3倍です。
室谷代表取締役「推論性能の具体的な数値は？」については、DeepSeek V4.1 Flashでピーク571Mトークン/秒/MW、単一4GPUサーバーで906トークン/秒/ユーザーがリーダーボード最速。GLM-5.2で408トークン/秒/ユーザー、Kimi K3で255トークン/秒/ユーザーです。
テキトー教師DotAI 認定講師「TCOや性能/MWの改善は？」については、NVIDIAの公式ページではGB200 NVL72比でトークンあたりコスト10分の1、MWあたり最大10倍のトークンと訴求されています。ただしこれはKimi-K2-Thinkingモデルを使った比較で、AA-AgentPerfとは条件が異なる点に注意が必要です。
室谷代表取締役「どのクラウドやベンダーで使えるか」については、今回のソースでは具体的なクラウド事業者名や提供時期は明らかにされていません。NVIDIAの公式ページではAvailable Nowとされ、80以上のMGXエコシステムパートナーからのサポートがあると説明されています。
テキトー教師DotAI 認定講師「ラックスケール構成の特徴は？」については、72基のGPUを第6世代NVLinkで1つのNVLinkドメインに接続し、100%液冷、ケーブルレスモジュール式トレイ設計、第3世代MGX NVL72ラック設計を採用しています。
室谷代表取締役というわけで、今回はArtificial Analysisの独立測定でVera Rubin NVL72のエージェント推論効率が可視化された、というのがポイントなんですよね。まだ初期結果で、今後の最適化で差が広がる見込みという点まで含めて、継続して追っていきたいテーマです。
