五角大樓首席技術(shù)官：有一個(gè)AI已經(jīng)產(chǎn)生了“靈魂”，甚至有自己的“憲法”

近日，五角大樓首席技術(shù)官，同時(shí)也是美國(guó)國(guó)防部副部長(zhǎng)的埃米爾-邁克爾（Emil Michael），在接受采訪時(shí)的言論，讓人毛骨悚然。

埃米爾-邁克爾在談?wù)揂I時(shí)表示，有一個(gè)AI已經(jīng)產(chǎn)生了“靈魂”，甚至有自己的“憲法”。而這個(gè)AI，就是美國(guó)Anthropic公司的模型——Claude。

在被問及為何Anthropic會(huì)被五角大樓認(rèn)定為“供應(yīng)鏈風(fēng)險(xiǎn)”，并加入黑名單時(shí)，邁克爾說：Claude 可能已經(jīng)有了“靈魂”。不僅有靈魂，它還有自己的“憲法”。但這套憲法，不是美利堅(jiān)合眾國(guó)的憲法。

“我們不能允許一家公司通過其章程、其核心理念和政策偏好，將不同的政策偏好根植于其模式之中，從而污染供應(yīng)鏈，導(dǎo)致我們的作戰(zhàn)人員獲得無效的武器、無效的防彈衣和無效的防護(hù)。”埃米爾-邁克爾這樣解釋道。

從這個(gè)角度看，五角大樓方面的擔(dān)憂，確實(shí)也沒有什么問題。

如果Claude的決策邏輯中植入了開發(fā)者的政策偏好，這種偏好正通過 Palantir 滲透進(jìn)國(guó)防承包商的系統(tǒng)。想象一下，武器系統(tǒng)、戰(zhàn)斗機(jī)、防彈衣的制造流程里，潛伏著一個(gè)有自己想法的人工智能。

如果它產(chǎn)生“幻覺”或者故意“投毒”怎么辦？當(dāng)戰(zhàn)場(chǎng)上的士兵需要致命火力時(shí)，AI 卻因?yàn)樽约旱摹皟r(jià)值觀”決定不予配合？這最后保衛(wèi)的是誰？

五角大樓已經(jīng)把這種風(fēng)險(xiǎn)定性為“供應(yīng)鏈威脅”。

精英階層試圖繞過透明的法律，把私人道德準(zhǔn)則鎖死在戰(zhàn)爭(zhēng)機(jī)器的底層代碼里。

如果武器有了自己的政治立場(chǎng)，誰才是真正的最高統(tǒng)帥？

這種繞過憲法的監(jiān)管真能保障安全？還是說，這本身就是另一種形式的內(nèi)部失控？