北京
NVIDIA 在 KubeCon Europe 大會上宣布推出適用于 GPU 加速工作負(fù)載的機(jī)密容器解決方案、NVIDIA KAI Scheduler 更新，以及用于實(shí)現(xiàn)大規(guī)模 AI 工作負(fù)載的全新開源項(xiàng)目。
對于絕大多數(shù)企業(yè)來說，AI 工作負(fù)載在 Kubernetes 上運(yùn)行——一個可實(shí)現(xiàn)容器化應(yīng)用的部署、擴(kuò)縮容與管理自動化的開源平臺。
為了使全球開發(fā)者社區(qū)能夠更高效透明地管理高性能 AI 基礎(chǔ)設(shè)施，NVIDIA 將向云原生計(jì)算基金會 (Cloud Native Computing Foundation, CNCF) 捐贈關(guān)鍵軟件—— NVIDIA 動態(tài)資源分配 (DRA) GPU 驅(qū)動程序。CNCF 是一個供應(yīng)商中立組織，致力于促進(jìn)和維護(hù)云原生生態(tài)系統(tǒng)。
- 簡化 AI 基礎(chǔ)設(shè)施：在過去，管理數(shù)據(jù)中心內(nèi)為 AI 提供動力的強(qiáng)大 GPU 需要付出巨大努力。
這一貢獻(xiàn)旨在使高性能計(jì)算更易于使用。開發(fā)者的受益點(diǎn)包括：
- 提高效率：該驅(qū)動程序支持 NVIDIA Multi-Process Service 和 NVIDIA Multi-Instance GPU 技術(shù)，可實(shí)現(xiàn)更智能的 GPU 資源共享，從而有效利用計(jì)算能力。
- 大規(guī)模擴(kuò)展：提供原生支持，可將系統(tǒng)連接在一起，兼容 NVIDIA 多節(jié)點(diǎn) NVLink 互聯(lián)技術(shù)。這對于在 NVIDIA Grace Blackwell 系統(tǒng)和下一代 AI 基礎(chǔ)設(shè)施上訓(xùn)練大型 AI 模型至關(guān)重要
- 靈活性：開發(fā)者可以根據(jù)需要動態(tài)重新配置硬件，隨時更改資源分配方式。
- 精度：該軟件支持微調(diào)請求，允許用戶根據(jù)其應(yīng)用需求指定特定的算力、顯存設(shè)置或互連配置。
- 全行業(yè)協(xié)作：NVIDIA 正在與行業(yè)領(lǐng)導(dǎo)者合作，包括亞馬遜云科技、博通、Canonical、Google Cloud、微軟、Nutanix、紅帽和 SUSE，共同推動這些功能的發(fā)展，造福整個云原生生態(tài)系統(tǒng)。
- 擴(kuò)展開源視野：這一項(xiàng)捐贈只是 NVIDIA 支持開源社區(qū)的更廣泛舉措的一部分。其他舉措還包括在 GTC 大會上發(fā)布的 NVSentinel（GPU 故障修復(fù)系統(tǒng)）以及 AI Cluster Runtime（智能體 AI 框架）。
以上為摘要內(nèi)容，點(diǎn)擊鏈接閱讀完整內(nèi)容：NVIDIA 向 Kubernetes 社區(qū)捐贈動態(tài)資源分配 GPU 驅(qū)動程序，推動開源 AI 發(fā)展 | NVIDIA 英偉達(dá)博客
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
