【環(huán)球網(wǎng)科技綜合報(bào)道】近日,開(kāi)源AI智能體OpenClaw(網(wǎng)友戲稱為“賽博龍蝦”)迅速走紅網(wǎng)絡(luò)。隨著應(yīng)用熱度持續(xù)攀升,從企業(yè)到個(gè)人開(kāi)發(fā)者,部署OpenClaw正成為新的趨勢(shì)。該工具通過(guò)整合通信軟件與大語(yǔ)言模型,能夠在用戶電腦上自主執(zhí)行文件管理、郵件收發(fā)、數(shù)據(jù)處理等復(fù)雜任務(wù),展現(xiàn)出強(qiáng)大的自動(dòng)化能力。與此同時(shí),智能體能夠直接調(diào)用系統(tǒng)資源并自主執(zhí)行指令,這也帶來(lái)了新的安全挑戰(zhàn)。
![]()
工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)此前已發(fā)布相關(guān)安全預(yù)警。中國(guó)信息通信研究院副院長(zhǎng)魏亮提醒,即使升級(jí)到官方最新版本修復(fù)已知漏洞,也并不意味著安全風(fēng)險(xiǎn)完全消除。由于智能體具有自主決策、調(diào)用系統(tǒng)資源以及技能包來(lái)源復(fù)雜等特點(diǎn),如果缺乏有效防護(hù)措施,仍可能引發(fā)數(shù)據(jù)泄露或系統(tǒng)被控制等安全問(wèn)題。
3月10日,國(guó)家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布《關(guān)于OpenClaw安全應(yīng)用的風(fēng)險(xiǎn)提示》,表示該類智能體在運(yùn)行過(guò)程中通常需要被授予較高系統(tǒng)權(quán)限,例如訪問(wèn)本地文件系統(tǒng)、讀取環(huán)境變量、調(diào)用外部API以及安裝擴(kuò)展插件等。如果默認(rèn)配置缺乏必要的安全限制,攻擊者一旦利用漏洞突破防護(hù),可能獲得系統(tǒng)的完全控制權(quán),進(jìn)而造成數(shù)據(jù)泄露或業(yè)務(wù)系統(tǒng)失控等嚴(yán)重后果。
全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在近期接受媒體采訪時(shí)也說(shuō)道,OpenClaw等AI智能體雖然擁有較大的創(chuàng)新潛力,但目前仍處于發(fā)展初期階段,使用門檻較高、結(jié)果穩(wěn)定性不足,底層安全機(jī)制仍有待進(jìn)一步完善。如果缺乏有效管控,讓智能體隨意與外部系統(tǒng)交互,或在公開(kāi)環(huán)境中執(zhí)行復(fù)雜任務(wù),可能導(dǎo)致用戶密碼、API密鑰等敏感信息被誘導(dǎo)泄露。此外,OpenClaw支持通過(guò)外部“技能包(Skill)”擴(kuò)展能力,但部分技能來(lái)源復(fù)雜,如果缺乏審核機(jī)制,存在被植入惡意代碼的風(fēng)險(xiǎn)。周鴻祎形象地將AI智能體比作剛?cè)肼毜摹皩?shí)習(xí)生”,既需要持續(xù)訓(xùn)練,也必須建立嚴(yán)格的規(guī)則約束,并提醒用戶:“養(yǎng)龍蝦,需謹(jǐn)慎。”
針對(duì)這一新型安全挑戰(zhàn),360集團(tuán)率先發(fā)布《OpenClaw安全部署與實(shí)踐指南》(以下簡(jiǎn)稱“指南”),為政企機(jī)構(gòu)和個(gè)人開(kāi)發(fā)者提供系統(tǒng)化的安全參考。360表示,AI智能體越接近“數(shù)字分身”,一旦被攻擊者控制,其潛在破壞力也越大,因此在部署初期建立安全機(jī)制尤為關(guān)鍵。
在《指南》中,360總結(jié)了當(dāng)前AI智能體部署面臨的多類典型風(fēng)險(xiǎn),包括公網(wǎng)管理接口暴露、API Key等身份憑證泄露、底層Shell工具調(diào)用越權(quán)、提示詞注入攻擊、記憶模塊被惡意投毒、第三方技能插件供應(yīng)鏈風(fēng)險(xiǎn)以及多智能體協(xié)同失控等問(wèn)題。其中,提示詞注入和插件供應(yīng)鏈攻擊被認(rèn)為是當(dāng)前最容易被忽視、卻危害較大的新型攻擊方式。一旦被利用,攻擊者可能誘導(dǎo)智能體執(zhí)行非預(yù)期指令,甚至長(zhǎng)期操控其行為。
![]()
為了幫助企業(yè)團(tuán)隊(duì)和OPC(一人公司)創(chuàng)業(yè)者在保障安全的前提下使用AI智能體,360在《指南》中提出“先可控、再提效”的原則。針對(duì)個(gè)人開(kāi)發(fā)者和小型團(tuán)隊(duì),指南建議避免直接在本機(jī)高權(quán)限運(yùn)行智能體,而是通過(guò)容器化技術(shù)構(gòu)建隔離環(huán)境,并結(jié)合最小權(quán)限策略、密鑰加密注入和關(guān)鍵配置文件防篡改等措施,為OpenClaw搭建安全運(yùn)行基礎(chǔ),從而在不增加復(fù)雜度的情況下有效降低風(fēng)險(xiǎn)。
對(duì)于政企級(jí)多智能體協(xié)同應(yīng)用場(chǎng)景,360則提出基于零信任理念的整體安全架構(gòu):在系統(tǒng)邊界部署安全網(wǎng)關(guān),對(duì)智能體所有出入流量進(jìn)行統(tǒng)一控制并實(shí)施數(shù)據(jù)防泄漏檢測(cè);在平臺(tái)內(nèi)部建立多租戶與RBAC細(xì)粒度權(quán)限管理機(jī)制,實(shí)現(xiàn)管理員、安全審計(jì)員、工具開(kāi)發(fā)者和業(yè)務(wù)操作人員之間的權(quán)限分離;同時(shí)將智能體關(guān)鍵操作日志接入企業(yè)安全運(yùn)營(yíng)平臺(tái),通過(guò)行為基線分析及時(shí)識(shí)別異常操作,實(shí)現(xiàn)對(duì)高風(fēng)險(xiǎn)行為的實(shí)時(shí)預(yù)警與攔截。
業(yè)內(nèi)專家認(rèn)為,以O(shè)penClaw為代表的AI智能體有望像當(dāng)年的云計(jì)算一樣深刻改變各行業(yè)的生產(chǎn)方式,但安全能力必須同步建設(shè)。只有在部署初期建立完善的安全機(jī)制,才能避免在規(guī)模化應(yīng)用后付出更高的風(fēng)險(xiǎn)成本。隨著各地持續(xù)加碼支持AI智能體產(chǎn)業(yè)發(fā)展,360發(fā)布的這份安全部署指南也為行業(yè)提供了重要參考,為企業(yè)和開(kāi)發(fā)者在快速創(chuàng)新與安全可控之間提供了一條可行路徑。(古雨)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.