(資料圖片)

本周二，AMD在數據中心與AI技術首映式上展示了最新Instinct MI300X GPU。AMD在主題演講中并未透露更多細節。然而，Hoang Anh Phu稍后發現MI300X（192 GB HBM3，OAM模塊）的總功耗（TBP）為750W，而其上一代MI250X的TBP僅為500-560W。

MI300X是一款純GPU版本，采用AMD CDNA 3技術，使用高達192GB的HBM3高帶寬內存來加速大型語言模型和生成式AI計算。MI300X及其CDNA架構專為處理大型語言模型和其他先進AI模型而設計，將12個5nm chiplets封裝在一起，共有1530億顆晶體管。這款全新的AI芯片放棄了APU的24個Zen內核和I/O芯片，轉而采用更多的CDNA 3 GPU和更大的192GB HBM3，提供5.2TB/s的內存帶寬和896GB/s的無限帶寬。

關鍵詞：