NVIDIA GB200 NVL4 - Vengineerの妄想

Vengineerの妄想

人生を妄想しています。

NVIDIA GB200 NVL4

はじめに

昨日の、NVIDIA H200 NVL と一緒に発表された GB200 NVL4 。GB200 は、実質 NVL (NVL2) なのですが、2つの GB200 を 1つのボードに収めたのが、GB200 NVL4 のようです。

NVIDIA GB200 NVL4

下記の記事が詳しいです。

videocardz.com

  • 4-GPU NVLink Domain With 1.3T Coherent Memory

とあります。

GB200 NVL4 だと、4つのB200が NVLink で繋がっていることなんでしょうね。

そうそう、A100 の HGX A100 の 4個バージョン的な。下記の画像は、ここから引用しています。

H100 にもありましたね。

GPU間の接続図は、こんな感じ。同じところから引用しています。各GPU間は、NVLink を 4組使っていますね。

H100も同じように、4組使っています。ここにありました。

HGX A100/HGX H100 との違いは、CPUとの接続が PCIe ではなく、こちらも NVLink なんでしょうね。

www.servethehome.com

に実物の写真が載っていました。下記に説明のために引用します。

  • B200は、基板の上に載っているようですね。
  • 右側のGraceのPCIe用のコネクタは6個なんですね。1個分は何に使っているのでしょうかね。

GB200 NVL4の出荷は、2025年後半のようですね。

おわりに

GB200 NVL4 って、GB200 NVL72 の 1 枚のサーバーに入っているものと違うのでしょうか?

最初のプロダクトは、GB200 x 2 枚の構成だったものを、GB200 NVL4 に変えたのでしょうねかね。

videocardz.com

の記事に、下記の画像がありました。説明のために引用します。

ちょっと気になったのは、Graceのメモリです。

  • Grace-Hopper Superchip の時は、表に8個、裏に8個
  • GB200 の時は、横にびっちり並べて、表に8個
  • GB200 NVL4 の時は、それなりに間を空けて、表に8個

並んでいるんですよね。