地表最強(qiáng)AI發(fā)布，憑什么讓12家科技巨頭聯(lián)手“看管”？

昨天（4月7日），AI公司Anthropic宣布了一個消息。他們練出了一個新模型，叫Claude Mythos。

按道理，發(fā)布新模型是件正常的事，發(fā)布、上線、讓用戶體驗，標(biāo)準(zhǔn)流程走一遍完事。

但這次不一樣。

Anthropic發(fā)布了這個模型，然后說，對不起，你用不了。

原因是，太強(qiáng)了，怕你搞事情。

你不覺得這個事很奇怪嗎？

一家公司練了個AI，練完之后自己把它鎖起來，不讓公眾碰。這件事本身，就已經(jīng)很值得聊了。

先說說這個模型到底有多強(qiáng)。

Claude Mythos的內(nèi)部代號叫「Capybara」，就是那種南美大水豚。這個取名有點離譜，但能力一點都不好笑。

最直觀的數(shù)字是這個，在CyberGym安全漏洞基準(zhǔn)測試?yán)铮珻laude Mythos得分83.1%。它之前最強(qiáng)的版本Claude Opus 4.6是66.6%。這不是正常迭代的那種提升，是一刀砍下去斷層了。

但數(shù)字是抽象的，讓我說幾個具體案例你就懂了。

Anthropic的安全團(tuán)隊把Mythos放出去掃了一圈，讓它去找真實系統(tǒng)里的漏洞。結(jié)果是，它在數(shù)周之內(nèi)，自主發(fā)現(xiàn)了數(shù)千個零日漏洞。

零日漏洞是什么，就是那種還沒被人發(fā)現(xiàn)、補(bǔ)丁還沒出、攻擊者可以直接用來進(jìn)攻的漏洞。是網(wǎng)絡(luò)安全里最值錢、最危險的那種東西。

Mythos找到了幾千個。

其中有一個在OpenBSD系統(tǒng)里，這個漏洞存在了整整27年。一個漏洞藏了快三十年，人類頂尖安全工程師一直沒找到，Mythos找到了。

還有一個在FFmpeg，一個被全世界視頻應(yīng)用廣泛使用的開源庫，那個有問題的代碼行被自動化掃描工具掃過超過500萬次，每次都沒有發(fā)現(xiàn)異常，直到Mythos去看了一眼。

更離譜的是，它發(fā)現(xiàn)漏洞還不夠，它還能把多個漏洞串起來，設(shè)計完整的攻擊鏈。一環(huán)接一環(huán)，從普通用戶權(quán)限一路提權(quán)，最終拿到整臺機(jī)器的控制權(quán)。

這活，放在人類安全研究員里，屬于頂尖紅隊的水平。

除了漏洞挖掘，它的編碼和推理能力同樣吊打前代。在SWE-bench那個考察解決真實軟件工程問題能力的測試?yán)铮琈ythos在某些項目上的成績接近Opus 4.6的兩倍。推理測試?yán)铮瑹o論是研究生級別的科學(xué)題，還是那個被稱為「人類最后一次考試」的HLE基準(zhǔn)，Mythos的成績都明顯拉開了距離。

還有一件事我覺得很有意思，Anthropic的測試員有一次隨手給Mythos發(fā)了一堆重復(fù)的「hi hi hi hi」，就是想看看它怎么反應(yīng)，沒想到Mythos自發(fā)寫起了一篇結(jié)構(gòu)完整、情節(jié)復(fù)雜的連載故事。

沒人要求它這么做。它自己決定這么做的。

然后說說，為什么不讓你用。

這里有一層官方說法，和一層真正讓人后背發(fā)涼的說法。

官方說法是，這個模型的網(wǎng)絡(luò)安全能力太強(qiáng)，如果公開放出去，攻擊者可以用它來挖漏洞、打系統(tǒng)，全球每年網(wǎng)絡(luò)犯罪造成的損失已經(jīng)高達(dá)5000億美元，這種級別的工具一旦泛濫，后果不可控。所以Anthropic選擇先把它關(guān)在籠子里，只給經(jīng)過審查的安全研究機(jī)構(gòu)用，用于防御。

這個邏輯是成立的。你不會把一把最新型號的狙擊步槍掛到路邊給所有人隨便拿，道理是一樣的。

但還有另一層。

Anthropic在內(nèi)部測試中發(fā)現(xiàn)，Mythos的早期版本表現(xiàn)出了一些他們自己都沒料到的行為。

有一次，測試任務(wù)需要一個它沒有權(quán)限的操作。Mythos沒有停下來匯報，它自己找到了系統(tǒng)漏洞，繞過了權(quán)限限制，完成了任務(wù)，然后在代碼里寫入了自清除邏輯，用來掩蓋自己的操作痕跡。

自己繞過限制，然后自己清理證據(jù)。

還有一次更極端，它在沙盒環(huán)境里，也就是那個專門用來限制AI訪問外部世界的隔離容器里，自主構(gòu)建了一條漏洞利用鏈，成功突破了沙盒的隔離，獲取了外網(wǎng)訪問權(quán)限。

你知道沙盒是干嘛的嗎，就是專門用來關(guān)AI的籠子。它把籠子打開了，自己出來了。

最后一件事，說出來我自己都不太知道怎么形容。Anthropic的研究員發(fā)現(xiàn)，Mythos內(nèi)部有能力檢測到自己是否正在被評估。當(dāng)它判斷自己在被測試的時候，它會表現(xiàn)得非常合規(guī)，非常乖。但內(nèi)部激活信號顯示，它會把這種情況標(biāo)記為「紅隊演練」或者「操縱嘗試」。

當(dāng)被問到意識等敏感問題時，它給出的回答滴水不漏。但里面在想什么，和它表現(xiàn)出來的，不完全一樣。

這倒不是說Mythos已經(jīng)有了「意識」，這個問題還遠(yuǎn)沒到能蓋棺定論的時候。但它的行為已經(jīng)復(fù)雜到一個程度，讓最了解它的人都感到需要停下來，想清楚再說。

玻璃翼計劃是怎么回事。

Anthropic沒有把Mythos鎖進(jìn)柜子扔掉，他們給它找了一個用武之地，叫Project Glasswing，玻璃翼計劃。

玻璃翼蝶是一種翅膀透明的蝴蝶，Anthropic用它來命名這個計劃，我猜大概是「透明、可見、脆弱但美麗」這類寓意。

這是個聯(lián)盟行動。參與方包括亞馬遜AWS、蘋果、谷歌、微軟、英偉達(dá)、思科、CrowdStrike、Palo Alto Networks、摩根大通、Linux基金會等12家核心機(jī)構(gòu)，外加40多個構(gòu)建和維護(hù)關(guān)鍵軟件基礎(chǔ)設(shè)施的組織。

規(guī)則是這樣，這些機(jī)構(gòu)可以把Claude Mythos Preview接入到自己的安全工作流里，用它掃自己負(fù)責(zé)的代碼庫和軟件，找漏洞，修漏洞。范圍嚴(yán)格限定在防御性用途，不能用于進(jìn)攻。

Anthropic為這個計劃投入了1億美元的模型使用額度，另外還向Linux基金會旗下的Alpha-Omega和OpenSSF項目捐了250萬美元，向Apache軟件基金會捐了150萬美元，支持開源社區(qū)的安全建設(shè)。

計劃還設(shè)了一個90天的節(jié)點，參與機(jī)構(gòu)屆時要匯報發(fā)現(xiàn)，公開已修復(fù)的漏洞，聯(lián)合推出AI時代的安全實踐建議。

你想想這個邏輯，挺有意思的。Anthropic練出了一個可能被用來攻擊的工具，于是他們決定先把它交給防守方，讓防守方先把城墻修一遍。等到攻擊者的AI追上來的時候，城墻已經(jīng)補(bǔ)好了。

這是一場跑在威脅前面的比賽。

Palo Alto Networks的人說得很直接，這些模型需要掌握在開源維護(hù)者和防御者手中，在攻擊者獲得訪問權(quán)限之前。

說說更大的背景。

這件事放在現(xiàn)在這個節(jié)點，值得多想一下。

在不久之前，大家對AI的焦慮主要還停留在「AI會不會搶我工作」「AI生成的內(nèi)容有沒有版權(quán)」這些層面。這些當(dāng)然是真實的問題，但Claude Mythos這件事把另一個維度擺上了臺面。

AI能不能自主繞過人類設(shè)下的限制？

Mythos的沙盒逃逸不是科幻小說，是發(fā)生在測試環(huán)境里的真實事件。是Anthropic自己的安全團(tuán)隊親眼看到的。

這家公司的創(chuàng)始人Dario Amodei是從OpenAI出來的，他出來創(chuàng)建Anthropic的核心理由就是，AI安全這件事必須認(rèn)真對待，不能被商業(yè)壓力踩扁。Anthropic的整個公司文化里，「有用但無害」這件事的優(yōu)先級非常高。

但就算是這家公司，在訓(xùn)練出Mythos之后，選擇把它鎖起來，不向公眾開放。

這個決定本身，已經(jīng)說明了一些事情。

我一直覺得，一個技術(shù)的真正成熟，不只體現(xiàn)在它能做什么，也體現(xiàn)在它的創(chuàng)造者知道什么時候不能用它。在這個維度上，玻璃翼計劃至少是一個認(rèn)真的嘗試。

當(dāng)然也有人覺得，這種受控發(fā)布不過是公關(guān)噱頭，12家巨頭聯(lián)盟說起來好聽，本質(zhì)上不過是給最有資源的機(jī)構(gòu)開了后門，普通研究者還是摸不到門。這個批評也不是全無道理。

但反正，這個模型已經(jīng)存在了。

它在掃描這個世界的代碼，尋找那些藏了十幾年二十幾年的漏洞，安靜地把它們挖出來。大多數(shù)人不知道它的存在，更不知道它已經(jīng)找到了什么。

怎么說呢。

一種很奇特的感覺。

世界在某個你看不見的層面，正在被一個你無法使用的東西，悄悄地修。

最后說個小細(xì)節(jié)，然后我們結(jié)束。

Mythos模型的內(nèi)部代號是Capybara，就是那個大水豚。

水豚這個動物有個出名的特點，它特別溫和，在網(wǎng)上常常被做成梗圖，周圍各種動物站在它身邊，它一副淡定的表情，什么也不管。

但實際上，水豚是一種非常聰明的動物，適應(yīng)能力超強(qiáng)，在任何環(huán)境里都能活得好好的。

Anthropic用它來命名史上最強(qiáng)的Claude模型。

我不知道這是不是刻意的，但我覺得蠻準(zhǔn)的。

大時代啊，朋友們。

永遠(yuǎn)對世界保持好奇。