Tagged: Blackwell

NVIDIAの次世代技術が発表された。

あくまでも業務用

NVIDIAが、AIやデータセンター向け半導体などに関する話題を扱う年次イベント「GTC」を米国カリフォルニア州サンノゼで開催する。
その際にCEOであるジェンスン・フアン氏による基調講演が行われ、最新GPUアーキテクチャ「Blackwell」が発表された。
Blackwellは、NVIDIA B200 Tensor Core GPUが正式な製品名になるが、巨大なダイ2つが1パッケージに封入されたスタイルで、これら2つのダイは10TB/sのNV-HBIで接続された1つのGPUとして動作する製品になるという。
搭載するメモリは、192GB HBM3eメモリでその速度は8TB/sに達する。FP8(Tensorコア)で10PFLOPS、FP4(Tensorコア)で20PFLOPSの性能を実現するとしており、チップ間を接続するNV Linkは第5世代に進化し、その帯域幅は1.8TB/sに拡張されている。また新しいNV Link Switchを利用する事で、最大576GPUまでスケールアップできるという。
この内容を読めば、もう一般家庭で使うものではないという事はよく分かると思うが、完全にAIに特化した製品と言える。
また、このB200を2基と、1基のNVIDIA Arm CPU(Grace)を1モジュールにした「GB200」も用意され、GB200と現世代H100とを比較すると、その性能はAI学習時で4倍、推論時で30倍になったとし、電力効率は25倍に達するという。
この製品、GPU製造プロセスは実は前世代と同じTSMC 4NPを利用しているので、単純に製造されるシリコンダイの大きさは同じサイズになると考えられる。違うのは、そのダイを2個、チップレット技術であろう技術で接続し、パッケージを巨大化して実現しているという事。
つまり、想定される電力はとんでもない電力量になると考えられる。
性能も破格なパワーを持つが、それ相応の消費電力でもある…というのが、今回のBlackwellと言えるだろう。

気になるのはRTX 50シリーズ

今回発表となったB200は、どう考えてもAIに特化した製品といえるが、この製品の技術を使って作られるのがRTX 50シリーズになるだろう事は容易に想像が付く。
では実際に発売されるであろうRTX 50シリーズは、どんな製品になるのだろうかと予測してみる。
以前、とんでもなく高額な製品になるかもしれないという噂は出ていた。
それこそ、消費する電力もバカみたいに増えるだろうと言われていたし、そう考えるとGPU用の補助電源で使われる12VHPWRの規格値、12Vで600Wという数値が一つの指標になるような気がする。
RTX 4090で、消費電力が450Wと言われているので、それを軽く超え、500W、場合によっては550Wくらいまで消費するものになるような気がしてならない。
…もうCPUとかの消費電力が可愛らしくなるレベルと思うのは気のせいだろうか？
ちなみに、CPUは案外消費電力を絞っても性能は引き出せるというのが最近のトレンドだが、GPUは単純は単純にコア数とクロックのパワーでスコアを伸ばす傾向にあり、それはGPUのみならずそこに含まれるNPUなども同じであるため、消費電力を絞れば絞っただけパワーは落ちると考えられる。
なので、ハイエンド製品になればなるほど、消費電力がバケモノじみたものになるのは避けられないような気がする。

Continue reading…