80GB都不夠了!NVIDIA H100計算卡要上120GB HBM2e視訊記憶體

你的顯示卡視訊記憶體有多大?想沒想過視訊記憶體超過100GB是什麼概念?

NVIDIA上一代加速計算卡A100首發40GB HBM2視訊記憶體,後來升級到80GB HBM2e。

新一代H100上來就是80GB,其中PCIe5。0形態的還是HBM2e,SXM5形態的則是最新標準HBM3。

80GB都不夠了!NVIDIA H100計算卡要上120GB HBM2e視訊記憶體

根據最新曝料,

NVIDIA正在準備120GB HBM2e視訊記憶體版的H100計算卡,PCIe形態,視訊記憶體頻寬還是高達3TB/s。

GH100核心採用臺積電4nm工藝製造,整合800億個電晶體,核心面積814平方毫米,內部集成了多達18432個CUDA核心、576個Tensor核心、60MB二級快取,分為144個SM單元,另有12個512-bit視訊記憶體控制器,總位寬6144-bit。

H100 SXM版本只開放15872個CUDA核心、528個Tensor核心,PCIe版本更是隻有14952個CUDA核心、456個Tensor核心,功耗卻最高達700W。

曝料稱,

新的H100 120GB PCIe將開啟16896個CUDA核心,距離滿血更近了一步。

另外,曝料中還提到了一款代號ADLCE的工程樣卡,顯然是RTX 40 Ada Lovelace的縮寫,應該對應RTX 4090,不過功耗限制在了350W。

80GB都不夠了!NVIDIA H100計算卡要上120GB HBM2e視訊記憶體