AMD今天發布了一款新的PCIe形態AI加速卡——Instinct MI350P。這是MI350系列的新成員,配備128個計算單元和144GB HBM3E顯存,專為現有風冷服務器設計,可直接替換升級。
這款雙槽卡長度10.5英寸,采用無風扇散熱方案,熱設計功耗600W,依賴機架式服務器的機箱風扇進行冷卻。不過它也支持降頻至450W運行,以適配散熱或供電能力受限的機箱環境。
![]()
從規格來看,MI350P恰好是旗艦型號MI350X和MI355X的一半配置。它基于AMD的CDNA4架構,采用臺積電3nm和6nm FinFET工藝制造。核心參數包括8192個流處理器、128個CU、512個矩陣核心,最高頻率2.2GHz。顯存方面配備144GB HBM3E,帶寬4TB/s,外加128MB末級緩存。
與MI350X和MI355X一樣,MI350P原生支持MXFP6和MXFP4低精度格式,用于加速大語言模型推理。單系統最多可并聯8張卡,數據中心可按需擴展算力。AMD將其定位面向中小型到大型的AI推理和RAG流水線負載,并宣稱這是目前最快的企業級PCIe加速卡——MXFP4格式下理論峰值算力達2299 TFLOPS,最高可達4600 TFLOPS。
MI350P的推出讓AMD終于有了能正面抗衡NVIDIA H200 NVL的產品。后者是當前最快的PCIe AI加速卡。基于更新架構的MI350P在FP16和FP8理論算力上比H200 NVL高出約40%。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.