一款A(yù)I把全球都嚇一跳：加拿大財(cái)長(zhǎng)直搖頭，英國(guó)央行行長(zhǎng)都慌了

澳大利亞最大的網(wǎng)絡(luò)安全公司發(fā)出緊急警告稱，一款功能強(qiáng)大的新型人工智能工具，正以前所未有的速度和規(guī)模發(fā)現(xiàn)并利用軟件漏洞。專家擔(dān)心，這可能引發(fā)下一波重大數(shù)據(jù)泄露事件。

網(wǎng)絡(luò)安全公司賽博思星期四向澳大利亞企業(yè)、銀行和基礎(chǔ)設(shè)施運(yùn)營(yíng)方表示，在這項(xiàng)技術(shù)或其復(fù)制版本落入犯罪分子手中之前，他們加固防御的時(shí)間窗口正在迅速收窄。

這項(xiàng)警告針對(duì)的是“克勞德·神話預(yù)覽版”。這是美國(guó)人工智能公司“擬人智能”開(kāi)發(fā)的一款尚未發(fā)布的人工智能模型。該公司認(rèn)為，這一工具危險(xiǎn)性過(guò)高，不適合向公眾開(kāi)放。目前，擬人智能通過(guò)“玻璃翼計(jì)劃”將訪問(wèn)權(quán)限限制在大約50家大型科技和基礎(chǔ)設(shè)施合作伙伴之中，其中包括微軟、谷歌、蘋(píng)果、亞馬遜和摩根大通。

“神話”已經(jīng)發(fā)現(xiàn)了數(shù)千個(gè)此前不為人知的軟件漏洞，其中包括一個(gè)存在了27年的操作系統(tǒng)漏洞。該系統(tǒng)被全球防火墻和互聯(lián)網(wǎng)路由器廣泛使用。在一次測(cè)試中，這一模型針對(duì)火狐瀏覽器生成了181種可實(shí)際運(yùn)行的攻擊方式，而更早的公開(kāi)版本只能做到兩種。

擬人智能產(chǎn)品負(fù)責(zé)人安吉拉·姜表示，這種網(wǎng)絡(luò)安全能力的出現(xiàn)，部分源于公司在編程和長(zhǎng)周期智能體任務(wù)上的整體推進(jìn)。

她說(shuō)：“如果一個(gè)系統(tǒng)非常擅長(zhǎng)編程，那么它通常也會(huì)非常擅長(zhǎng)識(shí)別網(wǎng)絡(luò)攻擊，尤其是在多個(gè)不同攻擊面上進(jìn)行檢測(cè)，并把這些環(huán)節(jié)串聯(lián)起來(lái)。”她還表示，公司一直“有機(jī)會(huì)與多家企業(yè)合作，幫助提升關(guān)鍵基礎(chǔ)設(shè)施的安全性”。

賽博思安全人工智能負(fù)責(zé)人季米特里·韋杰涅耶夫表示，“神話”的特別之處，不僅在于它能找出那些埋藏已久的漏洞，還在于它可以把多個(gè)漏洞串聯(lián)起來(lái)，并根據(jù)單一提示詞給出利用路徑建議。

他說(shuō)：“澳大利亞各類機(jī)構(gòu)不應(yīng)把獲得‘神話’訪問(wèn)權(quán)限，當(dāng)作某種包治百病的靈丹妙藥。類似能力很快就會(huì)更廣泛地出現(xiàn)，也可能落入網(wǎng)絡(luò)犯罪分子手中。”“神話”已經(jīng)引發(fā)多國(guó)政府警覺(jué)。英國(guó)央行行長(zhǎng)安德魯·貝利對(duì)英國(guó)廣播公司表示，各國(guó)央行正在評(píng)估這項(xiàng)技術(shù)對(duì)網(wǎng)絡(luò)犯罪可能帶來(lái)的影響。

加拿大財(cái)政部長(zhǎng)弗朗索瓦－菲利普·商鵬飛在華盛頓舉行的國(guó)際貨幣基金組織會(huì)議上，將“神話”稱為“未知中的未知”。特朗普政府也召集美國(guó)多家大型銀行負(fù)責(zé)人，討論相關(guān)風(fēng)險(xiǎn)。

擬人智能預(yù)計(jì)，其他人工智能公司將在18個(gè)月內(nèi)推出同樣強(qiáng)大的工具。開(kāi)放人工智能公司已經(jīng)向一小部分用戶開(kāi)放了其專注網(wǎng)絡(luò)安全的模型“生成式預(yù)訓(xùn)練變換器5．4－網(wǎng)絡(luò)版”。彭博社上周報(bào)道稱，一小批未經(jīng)授權(quán)的用戶已通過(guò)第三方獲得“神話”的訪問(wèn)權(quán)限。擬人智能證實(shí)，公司正在調(diào)查此事。

擬人智能星期五還另行宣布，面向公眾測(cè)試推出防御型產(chǎn)品“克勞德安全”。該產(chǎn)品允許企業(yè)客戶掃描自身代碼中的漏洞，并生成修補(bǔ)方案。公司表示，在研究預(yù)覽階段，已有數(shù)百家機(jī)構(gòu)使用這一工具，發(fā)現(xiàn)了“現(xiàn)有工具多年都未能發(fā)現(xiàn)”的漏洞。埃森哲、德勤、普華永道、波士頓咨詢公司和印孚瑟斯都在使用這一產(chǎn)品。

擬人智能一名發(fā)言人表示，公司目前先從“美國(guó)一些規(guī)模最大的企業(yè)”開(kāi)始合作，因?yàn)椤叭绻鼈兡軌蜓杆俦Ｗo(hù)好自己的產(chǎn)品，這種安全效應(yīng)就會(huì)在全球范圍內(nèi)擴(kuò)散”。這名發(fā)言人還說(shuō)，公司期待進(jìn)一步擴(kuò)大網(wǎng)絡(luò)安全合作伙伴關(guān)系。

不過(guò)，并非所有人都認(rèn)同“神話”意味著一次明確的代際躍遷。網(wǎng)絡(luò)安全公司伊塞特人工智能總監(jiān)尤拉伊·亞諾西克表示，在“神話”出現(xiàn)之前，能夠識(shí)別漏洞的模型就已經(jīng)存在。只要調(diào)度得當(dāng)，威脅行為體“其實(shí)已經(jīng)可以利用公開(kāi)可得的模型，實(shí)現(xiàn)類似‘神話’的能力”。

亞諾西克說(shuō)：“許多公司在最基本的網(wǎng)絡(luò)衛(wèi)生方面仍然落后，攻擊者利用的往往也是那些更早以前就已公開(kāi)的舊漏洞。人工智能能力的發(fā)展確實(shí)令人擔(dān)憂，但與整體網(wǎng)絡(luò)韌性的普遍不足相比，這種擔(dān)憂還算不上最核心的問(wèn)題。”

澳大利亞公司奧羅網(wǎng)絡(luò)服務(wù)總監(jiān)曼努埃爾·薩拉薩爾表示，網(wǎng)絡(luò)安全的基本原則并沒(méi)有改變。他說(shuō)：“‘神話’改變的是脆弱基礎(chǔ)暴露出來(lái)的速度。對(duì)于成熟機(jī)構(gòu)來(lái)說(shuō)，人工智能是一種能力放大器；對(duì)于成熟度較低的機(jī)構(gòu)來(lái)說(shuō)，它可以加快補(bǔ)課進(jìn)程，但無(wú)法繞開(kāi)基本功。”

薩拉薩爾表示，澳大利亞企業(yè)應(yīng)當(dāng)獲得“神話”這一等級(jí)人工智能所帶來(lái)的防御收益，但不應(yīng)獲得“對(duì)前沿漏洞利用引擎的無(wú)限制訪問(wèn)”。

他說(shuō)：“澳大利亞需要通過(guò)澳大利亞信號(hào)局、內(nèi)政部和國(guó)家網(wǎng)絡(luò)安全協(xié)調(diào)機(jī)構(gòu)等部門，確保能夠接觸先進(jìn)人工智能技術(shù)。如果我們現(xiàn)在不參與，就有可能落后于美國(guó)同行。”

《華爾街日?qǐng)?bào)》星期四報(bào)道稱，出于安全擔(dān)憂，白宮已拒絕擬人智能提出的一項(xiàng)建議。該建議原本希望將獲得“神話”訪問(wèn)權(quán)限的機(jī)構(gòu)數(shù)量大致增加一倍。特朗普政府與擬人智能之間的關(guān)系此前已因公司人工智能是否可用于軍事用途發(fā)生爭(zhēng)議而趨于緊張，這場(chǎng)爭(zhēng)議目前已引發(fā)兩起訴訟。

目前尚不清楚是否有澳大利亞機(jī)構(gòu)屬于“玻璃翼計(jì)劃”成員。擬人智能今年早些時(shí)候與阿爾巴尼斯政府簽署了一項(xiàng)協(xié)議，并在悉尼設(shè)立辦公室，但尚無(wú)任何澳大利亞政府機(jī)構(gòu)公開(kāi)確認(rèn)已獲得訪問(wèn)權(quán)限。

這項(xiàng)警告發(fā)布之際，澳大利亞社會(huì)仍籠罩在2022年澳都斯和美德銀行數(shù)據(jù)泄露事件的陰影之下。兩起事件合計(jì)導(dǎo)致數(shù)百萬(wàn)客戶的個(gè)人信息外泄，也重塑了公眾對(duì)大型機(jī)構(gòu)的信任。那兩次泄露利用的還是相對(duì)常規(guī)的安全弱點(diǎn)。外界擔(dān)心，更復(fù)雜的人工智能工具可能讓攻擊者發(fā)現(xiàn)并利用那些過(guò)去被認(rèn)為足夠安全的系統(tǒng)漏洞。

賽博思正敦促澳大利亞各類機(jī)構(gòu)梳理關(guān)鍵系統(tǒng)、對(duì)網(wǎng)絡(luò)進(jìn)行分段，并在安全職能中部署防御型人工智能，以“用人工智能對(duì)抗人工智能”。