對(duì)于專業(yè)AI創(chuàng)作工作者而言,消費(fèi)端處理器搭配普通顯卡注定不夠看,更猛的創(chuàng)意工作站無(wú)疑是最理想的選擇。在這個(gè)時(shí)間點(diǎn),英特爾正式發(fā)布了至強(qiáng)600工作站處理器,以及目前為止旗下最強(qiáng)的專業(yè)獨(dú)顯銳炫Pro B70,組成性能相當(dāng)亮眼的非常6+7,也是近段時(shí)間少有的讓人興奮的硬件新品。
![]()
![]()
至強(qiáng)600:86核172線程,128條PCIe 5.0!
至強(qiáng)Xeon 600系列工作站處理器是英特爾新一代單路極致性能平臺(tái)的最終體現(xiàn),處理器代號(hào)Granite Rapids-WS,旨在代替此前的至強(qiáng)W-2400和W-3400系列,如果說(shuō)普通桌面級(jí)CPU是滿足日常通勤的轎車,那至強(qiáng)600就是為征服惡劣環(huán)境而生的重型裝甲越野車。它不再單純追求某一維度的極限,而是要在核心數(shù)、I/O吞吐、AI加速以及企業(yè)級(jí)穩(wěn)定性之間,尋找一個(gè)理想的平衡點(diǎn)。
![]()
全新的至強(qiáng)600系列旗艦型號(hào)為Intel Xeon 698X(至強(qiáng)698X),基于Intel 3制程工藝打造,計(jì)算核心僅使用86個(gè)Redwood Cove作為P-Core,沒(méi)有E-Core,純性能核,支持超線程,回歸到了令人熱血沸騰的大力飛磚節(jié)奏。
![]()
至強(qiáng)698X擁有86核172線程,最高睿頻4.8GHz,支持Turbo Boost Max 3.0,每個(gè)核心內(nèi)置Intel AMX AI加速引擎,原生支持FP16。同時(shí)處理器還支持8通道DDR5-6400,支持MRDIMM-8000,最高可以支持4TB內(nèi)存容量。更夸張的是,處理器還擁有128條PCIe 5.0通道,支持最新的CXL 2.0技術(shù)。
![]()
特別是AMX-FP16在Blender的應(yīng)用場(chǎng)景中,性能相對(duì)上一代提升400%,也就是整整5倍的性能,離譜。
![]()
CXL 2.0技術(shù)源自于服務(wù)器,可支持Type 1緩存設(shè)備,Type 2加速器設(shè)備和Type 3內(nèi)存設(shè)備擴(kuò)展,并且做到了架構(gòu)層面的解綁與池化,包括支持交換機(jī)Switching,以及內(nèi)存池化Pooling。
![]()
在發(fā)布會(huì)現(xiàn)場(chǎng),英特爾對(duì)這款處理器進(jìn)行了詳細(xì)解析。雖然處理器高端86核172線程,得益于Intel 3制程工藝和架構(gòu)優(yōu)化,它在保持350W基礎(chǔ)功耗不變的情況下,多線程性能比上一代64核的至強(qiáng)W-3595X暴增了61%,單線程性能也有9%
的提升。無(wú)論是代碼編譯、科學(xué)計(jì)算還是視頻渲染,這都將帶來(lái)肉眼可見(jiàn)的效率質(zhì)變。
![]()
同時(shí)至強(qiáng)600全系對(duì)專業(yè)應(yīng)用和AI領(lǐng)域下足了功夫。它在Intel AMX高級(jí)矩陣擴(kuò)展中加入了FP16數(shù)據(jù)類型的原生支持,這讓它在處理AI訓(xùn)練和推理任務(wù)時(shí)更加得心應(yīng)手,AI/ML整體性能提升了17%。同時(shí)處理器還保留了完整的 AVX-512 指令集,對(duì)于依賴高精度浮點(diǎn)運(yùn)算的工程模擬和三維建模軟件來(lái)說(shuō),依然可以保持高效運(yùn)行。
工作站處理器更需要海量的外圍設(shè)備帶寬作為支持。至強(qiáng)600讓內(nèi)存帶寬直接翻倍,不僅支持了更快的DDR5-6400內(nèi)存,部分型號(hào)還能支持全新的MRDIMM,即多路復(fù)用寄存器DIMM內(nèi)存,速度飆升至8000 MT/s,最大容量可達(dá)4TB,喂飽那些極度吃內(nèi)存帶寬的密集型任務(wù)。
![]()
更厲害的是,至強(qiáng)600直接給足了128條PCIe 5.0通道,可以毫無(wú)顧忌的插滿數(shù)張頂級(jí)顯卡,比如NVIDIA RTX Pro 6000系列,或者今天同時(shí)發(fā)布的銳炫Pro B70。在現(xiàn)場(chǎng)的DEMO展示中,OEM廠商表示最多可以擴(kuò)展出16張銳炫Pro B70顯卡,單張顯卡32GB顯存,16張銳炫Pro B70即擁有512GB顯存,配合4TB DDR5-8000內(nèi)存,即使在家里也不用擔(dān)心有跑不動(dòng)的大模型了。
作為至強(qiáng)家族成員,至強(qiáng)600全系還支持ECC糾錯(cuò)內(nèi)存和RAS(可靠性、可用性、可維護(hù)性)技術(shù),最大程度避免因內(nèi)存位翻轉(zhuǎn)導(dǎo)致的系統(tǒng)崩潰和數(shù)據(jù)損壞。搭配英特爾vPro,它還支持多密鑰內(nèi)存加密和一鍵恢復(fù)功能,讓工作站無(wú)論是在辦公室還是在邊緣計(jì)算節(jié)點(diǎn),都能被IT部門輕松納管。
![]()
甚至,至強(qiáng)600還支持超頻。現(xiàn)場(chǎng)給出的理由是量化交易的券商很喜歡超頻的處理器。對(duì)于筆者而言,超頻玩家狂喜。
![]()
與至強(qiáng)600搭配的W890芯片組,包括了對(duì)Wi-Fi 7和Wi-Fi 6E的支持,以及2.5GbE網(wǎng)口,USB 3.2 20Gbps,SATA 3.0和PCIe 4.0擴(kuò)展,芯片組通過(guò)x8 Gen4 DMI通道與CPU連接。128條PCIe 5.0可以全留給GPU和SSD擴(kuò)展,帶勁。
![]()
![]()
英特爾至強(qiáng)600系列注定是一塊為解決復(fù)雜計(jì)算問(wèn)題的性能怪獸,它將服務(wù)器級(jí)別的核心密度、內(nèi)存吞吐和I/O擴(kuò)展性,融合進(jìn)了單路工作站的物理形態(tài)中。對(duì)于3D 渲染與影視后期而言,Blender、Maya、Cinema 4D等軟件,多出的幾十個(gè)線程可以直接讓渲染速度呈線性提升,同時(shí)更多的PCIe通道數(shù)也能帶動(dòng)多張渲染顯卡。
![]()
在工程仿真與CAE領(lǐng)域,涉及流體力學(xué)、有限元分析等極其消耗CPU和內(nèi)存帶寬的計(jì)算,至強(qiáng)600也能大幅縮短仿真等待時(shí)間。對(duì)于時(shí)下流行的本地AI開(kāi)發(fā)與數(shù)據(jù)科學(xué),憑借內(nèi)置的AMX AI加速引擎和海量PCIe通道用于擴(kuò)展多卡,它也是搭建本地大語(yǔ)言模型LLM推理和訓(xùn)練平臺(tái)的理想CPU。
![]()
![]()
![]()
![]()
銳炫Pro B70:16卡組512GB顯存,把AI算力拉滿!
現(xiàn)場(chǎng)配合至強(qiáng)600組建工作站的是英特爾目前旗下最強(qiáng)的專業(yè)顯卡銳炫Pro B70。是基于Battlemage戰(zhàn)斗法師Xe2架構(gòu)打造的BMG-G31大核心GPU,擁有32個(gè)Xe2核心和256個(gè)XMX AI引擎,AI算力峰值性能高達(dá)367 TOPS Int8。
![]()
![]()
在顯存配置上,銳炫Pro B70擁有32GB 256-bit GDDR6顯存,支持ECC糾錯(cuò),顯存帶寬高達(dá)608GB/s
。與近段被熱門討論的統(tǒng)一內(nèi)存架構(gòu)帶寬不同,統(tǒng)一內(nèi)存標(biāo)稱帶寬驚人,但實(shí)際可用帶寬可能在200GB/s以下,銳炫Pro B70的顯存帶寬可是實(shí)打?qū)嵉?08GB/s
。
![]()
在供電設(shè)計(jì)上,銳炫Pro B70的TBP在160W到290W之間,作為一張專業(yè)顯卡,OEM廠商會(huì)配合客戶需求進(jìn)行對(duì)應(yīng)配置,包括更專業(yè)的多卡互聯(lián)設(shè)計(jì)。不過(guò)現(xiàn)場(chǎng)工程師也強(qiáng)調(diào),即使不依賴于獨(dú)立的多卡互聯(lián)芯片,利用現(xiàn)有的PCIe 5.0和至強(qiáng)600系列提供的通道,配合W890主板,足夠發(fā)揮多卡性能。
![]()
銳炫Pro B70在供電上可提供16pin或者12V-2x6的最新版本12VHPWR供電。顯卡本身獲得了海量的專業(yè)認(rèn)證,包括SR-IOV虛擬化,50余家主流ISV獨(dú)立軟件供應(yīng)商認(rèn)證。
![]()
在細(xì)節(jié)上,32GB GDDR6是真正的硬通貨。專業(yè)工作和AI環(huán)境下,顯存容量往往比核心頻率更重要。銳炫Pro B70直接給到了32GB GDDR6顯存,并且支持ECC錯(cuò)誤糾正碼,這意味著它可以在本地流暢運(yùn)行70B 4-bit大語(yǔ)言模型,不會(huì)出現(xiàn)顯存溢出的尷尬。同時(shí)在Linux環(huán)境下,通過(guò)多卡互聯(lián),可以駕馭100GB以上顯存的巨型模型。現(xiàn)場(chǎng)DEMO就展示了4卡、8卡并聯(lián)案例,而OEM工程師也強(qiáng)調(diào),這套工作站組合可以做到16卡并聯(lián),實(shí)現(xiàn)512GB顯存的恐怖容量。
![]()
銳炫Pro B70的Xe2架構(gòu)搭配XMX AI引擎本來(lái)就是為AI推理而生。銳炫Pro B70總共擁有256個(gè)XMX AI引擎,INT8算力為367 TOPS。在實(shí)際的多用戶并發(fā)AI推理測(cè)試中,相比同級(jí)競(jìng)品,B70表現(xiàn)出了極強(qiáng)的共享承載力,多用戶Token吞吐量高出85%,首字響應(yīng)延遲更是降低到了競(jìng)品的1/6.2,可以很好的滿足企業(yè)級(jí)AI問(wèn)答系統(tǒng)、多智能體AI響應(yīng)。
![]()
由于PCIe 5.0 x16提供了128 GB/s的雙向傳輸帶寬,配合至強(qiáng)600系列組工作站。確實(shí)是一套非常理想的組合。
在現(xiàn)實(shí)輸出方面,銳炫Pro B70提供了3 個(gè)DP 2.1(支持UHBR20)和1個(gè)HDMI 2.1a接口,最高可外接4臺(tái)8K顯示器。
![]()
目前華擎、藍(lán)戟、銘瑄等AIC合作伙伴都已經(jīng)提供了銳炫Pro B70海量版本,包括適合常規(guī)工作站的渦輪和軸流風(fēng)扇版,采用均熱板和高端相變導(dǎo)熱材料,可以很好的應(yīng)對(duì)TBP 230W功耗。
![]()
![]()
![]()
![]()
同時(shí)AIC還提供了沒(méi)有風(fēng)扇的散熱版本,完全依靠服務(wù)器機(jī)箱強(qiáng)大的暴力排風(fēng)來(lái)帶走熱量。這種設(shè)計(jì)不僅零噪音,而且極其耐用,特別適合高密度服務(wù)器機(jī)架或需要在粉塵、震動(dòng)環(huán)境中24小時(shí)不停機(jī)的工業(yè)電腦。當(dāng)然,如果有需求,銳炫Pro B70輕松做出浸沒(méi)式液冷版本,只不過(guò)在工作站中比較少見(jiàn)。
從整體來(lái)看,銳炫Pro B70很適合需要大顯存承載模型權(quán)重,且對(duì)多用戶并發(fā)響應(yīng)要求高的中小企業(yè)或AI創(chuàng)業(yè)公司,依托于強(qiáng)大的32 Xe核心和硬件光追單元,在Maya、3ds Max、Blender等專業(yè)視口中能提供流暢的線框預(yù)覽和最終幀渲染。同時(shí)顯卡也獲得了AutoCAD, SolidWorks, Inventor等ISV的嚴(yán)苛認(rèn)證。這是一塊定位非常清晰,顯存非常大,性價(jià)比也很有吸引力的專業(yè)級(jí)顯卡。
![]()
AI生態(tài)新格局
在現(xiàn)場(chǎng),英特爾已經(jīng)攜手火山引擎、聯(lián)想等伙伴,利用至強(qiáng)600和銳炫Pro B70的雙芯協(xié)同,推出面向企業(yè)智能體、智能協(xié)作、垂直行業(yè)AI等多個(gè)場(chǎng)景的創(chuàng)新解決方案。包括:
![]()
英特爾與火山引擎共同打造的AgentSphere一體機(jī)聯(lián)合方案:依托英特爾至強(qiáng)600與銳炫Pro B70提供的高達(dá)32GB的顯存,更高密度、更高性能的本地算力,AgentSphere具備了更高并發(fā)、更低時(shí)延、更少抖動(dòng)的多智能體協(xié)同能力,同時(shí)開(kāi)箱即用的標(biāo)準(zhǔn)一體機(jī)方案降低了AI落地企業(yè)的使用門檻與維護(hù)成本,讓AgentSphere能夠更便捷地幫助企業(yè)打造AI員工管理平臺(tái),提升生產(chǎn)效率。
![]()
聯(lián)想智能會(huì)議系統(tǒng):聯(lián)想智能會(huì)議系統(tǒng)Lenovo SCH-900S借助銳炫Pro B70的出眾顯存、高達(dá)367 TOPS的AI算力峰值,實(shí)現(xiàn)多會(huì)議室并發(fā)接入與實(shí)時(shí)AI會(huì)議紀(jì)要的生成,顯著提升溝通效率與執(zhí)行落地速度,打造高效、智能的現(xiàn)代化辦公體驗(yàn)。
飛致云長(zhǎng)上下文RAG解決方案:在英特爾銳炫Pro B70多卡并發(fā)能力的基礎(chǔ)之上,飛致云打造了面向企業(yè)級(jí)場(chǎng)景的長(zhǎng)上下文 RAG 解決方案,全面支持LLM/VLM高效多卡并發(fā)推理。依托高帶寬顯存和AI算力支撐,該方案可提升企業(yè)知識(shí)管理、智能回答等場(chǎng)景的處理速度與響應(yīng)質(zhì)量。
東華醫(yī)為電子病歷智能體解決方案:智慧醫(yī)療是AI未來(lái)的核心落地場(chǎng)景之一。東華醫(yī)為借助英特爾AI工作站平臺(tái)在專業(yè)AI工作負(fù)載上的優(yōu)勢(shì),實(shí)現(xiàn)了精準(zhǔn)的病歷內(nèi)涵質(zhì)控與病歷輔助生成應(yīng)用,助力醫(yī)療機(jī)構(gòu)提升診療質(zhì)量和效率。
亦心閃繪實(shí)時(shí)創(chuàng)作功能:在英特爾銳炫Pro B70的32GB強(qiáng)大AI算力及大顯存加持下,亦心閃繪在秒級(jí)響應(yīng)時(shí)間內(nèi),即可將用戶的手繪畫(huà)作,實(shí)時(shí)生成細(xì)節(jié)飽滿的畫(huà)作。這種高質(zhì)高效的圖生圖技術(shù),極大程度釋放了藝術(shù)家的創(chuàng)意靈感和潛能。
![]()
英特爾至強(qiáng)600處理器與銳炫Pro B70顯卡的最強(qiáng)單機(jī)組合拳,可以被認(rèn)為是英特爾雙芯協(xié)同戰(zhàn)略的核心載體,通過(guò)量大管飽的32GB GDDR6 ECC大顯存銳炫Pro B70與86核172核的至強(qiáng)698X做組合,常規(guī)工作站就能不做任何調(diào)整插上至少4塊銳炫Pro B70顯卡,輕松組處一臺(tái)擁有128GB顯存的工作站。
![]()
這意味著GPT-OSS-120B這樣的1200億參數(shù)大模型對(duì)于這套組合而言輕而易舉,同時(shí)處理代碼編譯、科學(xué)計(jì)算等傳統(tǒng)重載任務(wù)時(shí),比上一代暴漲61%的多線程性能可以很好的處理問(wèn)題。得益于oneAPI策略的推行,英特爾oneAPI工具包以及PyTorch、vLLM等主流開(kāi)源框架已經(jīng)對(duì)這套硬件提供了很好的支持,配合vPro和海量ISV認(rèn)證,確保至強(qiáng)600與銳炫Pro B70在專業(yè)應(yīng)用領(lǐng)域游刃有余。
![]()
![]()
是的,英特爾至強(qiáng)600與銳炫Pro B70已經(jīng)給出了一套今年最令人興奮,性能也相當(dāng)猛的工作站解決方案。
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.