はじめに
昨日の、NVIDIA H200 NVL と一緒に発表された GB200 NVL4 。GB200 は、実質 NVL (NVL2) なのですが、2つの GB200 を 1つのボードに収めたのが、GB200 NVL4 のようです。
NVIDIA GB200 NVL4
下記の記事が詳しいです。
- 4-GPU NVLink Domain With 1.3T Coherent Memory
とあります。
GB200 NVL4 だと、4つのB200が NVLink で繋がっていることなんでしょうね。
そうそう、A100 の HGX A100 の 4個バージョン的な。下記の画像は、ここから引用しています。
H100 にもありましたね。
GPU間の接続図は、こんな感じ。同じところから引用しています。各GPU間は、NVLink を 4組使っていますね。
H100も同じように、4組使っています。ここにありました。
HGX A100/HGX H100 との違いは、CPUとの接続が PCIe ではなく、こちらも NVLink なんでしょうね。
に実物の写真が載っていました。下記に説明のために引用します。
- B200は、基板の上に載っているようですね。
- 右側のGraceのPCIe用のコネクタは6個なんですね。1個分は何に使っているのでしょうかね。
GB200 NVL4の出荷は、2025年後半のようですね。
おわりに
GB200 NVL4 って、GB200 NVL72 の 1 枚のサーバーに入っているものと違うのでしょうか?
最初のプロダクトは、GB200 x 2 枚の構成だったものを、GB200 NVL4 に変えたのでしょうねかね。
の記事に、下記の画像がありました。説明のために引用します。
ちょっと気になったのは、Graceのメモリです。
- Grace-Hopper Superchip の時は、表に8個、裏に8個
- GB200 の時は、横にびっちり並べて、表に8個
- GB200 NVL4 の時は、それなりに間を空けて、表に8個
並んでいるんですよね。