Nvidia在其GTC 2023年春季主題演講中宣布了一個新的雙GPU產品，H100 NVL。這不會帶來SLI或多GPU游戲的回歸，也不會是最好的游戲顯卡之一，而是針對不斷增長的AI市場。從Nvidia發布的信息和圖片來看，H100 NVL（H100 NVLink）將在頂部采用三個NVLink連接器，相鄰的兩塊卡可插入獨立的PCIe插槽。

(資料圖片僅供參考)

這是一個有趣的變化，顯然是為了適應不支持Nvidia的SXM選項的服務器，重點是推理性能而不是訓練。NVLink連接應該有助于提供NVSwitch在SXM解決方案上提供的缺失帶寬，而且還有一些其他明顯的區別。

以規格為例。以前的H100解決方案--包括SXM和PCIe--都配備了80GB的HBM3內存，但實際包裝包含六個堆棧，每個堆棧有16GB的內存。目前還不清楚是否有一個堆棧被完全禁用，或者是用于ECC或其他目的。我們所知道的是，H100 NVL每個GPU將有94GB，總共有188GB HBM3。我們認為每個GPU "缺少 "的2GB是為了ECC。

功率比H100 PCIe略高，每個GPU為350-400瓦（可配置），增加50瓦。同時，總性能實際上是H100 SXM的兩倍：134 teraflops的FP64，1,979 teraflops的TF32，和7,916 teraflops FP8（以及7,916 teraops INT8）。

基本上，這看起來與H100 PCIe的核心設計相同，它也支持NVLink，但現在可能啟用了更多的GPU核心，而且內存增加了17.5%。內存帶寬也比H100 PCIe高一些，每個GPU為3.9TB/s，合計7.8TB/s（而H100 PCIe為2TB/s，H100 SXM為3.35TB/s）。

麗臺（LEADTEK） NVIDIA RTX A6000 48G GDDR6大型數據處理專業圖形顯卡 NVIDIA A6000 48G 盒裝

[經銷商]京東商城

[產品售價]￥30999元

進入購買

由于這是一個雙卡解決方案，每張卡占用2個插槽的空間，Nvidia只支持合作伙伴和認證系統的2至4對H100 NVL卡。一對的價格是多少，它們是否可以單獨購買？這還有待觀察，盡管單塊H100 PCIe有時可以找到，價格約為28,000美元（在新標簽中打開）。因此，80,000美元購買一對H100 NVL似乎并不是不可能的事。

關鍵詞：