北京
NVIDIA 今日宣布推出NVIDIA BlueField-4? STX模塊化參考架構(gòu)，該架構(gòu)可助力企業(yè)、云計(jì)算及 AI 服務(wù)商輕松部署加速存儲(chǔ)基礎(chǔ)設(shè)施，以滿足代理式 AI 所需的長(zhǎng)上下文推理能力。
NVIDIA STX 助力存儲(chǔ)廠商構(gòu)建數(shù)據(jù)就近并可大規(guī)模訪問的基礎(chǔ)設(shè)施，從而使代理式 AI 工廠能夠在推理、訓(xùn)練和分析方面提供更高的吞吐量和響應(yīng)速度。
首個(gè)機(jī)架級(jí)部署方案集成了全新的 NVIDIA CMX? 上下文記憶存儲(chǔ)平臺(tái)。通過引入高性能的上下文層來擴(kuò)展 GPU 內(nèi)存，從而實(shí)現(xiàn)可擴(kuò)展的推理和代理式系統(tǒng)。與傳統(tǒng)存儲(chǔ)相比，每秒可處理的 Token 提升高達(dá) 5 倍。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“代理式 AI 正在重新定義軟件的能力，必須重塑其背后的計(jì)算基礎(chǔ)設(shè)施才能跟上這一步伐。能夠基于海量上下文進(jìn)行推理并持續(xù)學(xué)習(xí)的 AI 系統(tǒng)，需要新的存儲(chǔ)方案。NVIDIA STX 重新定義了存儲(chǔ)堆棧，為 AI 原生基礎(chǔ)設(shè)施提供了模塊化基礎(chǔ)，確保 AI 工廠始終保持峰值性能高效運(yùn)行。”
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
