美國擬強化AI監管機制

在生成式人工智能（Generative AI）加速進入關鍵應用場景之際，美國商務部正推動建立更系統的前置評估機制。

根據最新協議，谷歌、微軟及xAI需在產品發布前向政府提交模型接受能力與安全性測試。此舉也標志著白宮針對高風險AI模型帶來的網絡安全隱憂，開始對其原有“輕監管”路徑作出實質性調整。

政府前置測試

來自美國商務部的消息稱，谷歌、微軟以及xAI推出的新一代AI工具和能力，在向公眾發布之前，將接受該部門的測試。

這些科技公司已同意通過美國商務部下屬的人工智能標準與創新中心（CAISI）自愿提交其模型進行測試。

這一協議是拜登政府時期，在OpenAI和Anthropic等公司達成的相關承諾的基礎上進一步擴展而來的。根據協議，所有相關公司的AI模型都將接受能力與安全性評估。

“在這一關鍵時刻，這些擴展的行業合作有助于我們以公共利益為導向擴大工作規模。”CAISI主任克里斯·法爾表示。

總體而言，這些AI工具的評估將涵蓋“測試、協同研究以及與商業AI系統相關的最佳實踐”等。

據悉，OpenAI以及Anthropic早在2024年就與美國商務部達成了類似協議。

谷歌最知名的AI工具是其子公司DeepMind開發的Gemini，該聊天機器人已廣泛應用于谷歌各類產品中，目前也被用于美國國防和軍事機構。微軟最知名的AI工具是Copilot。而xAI目前唯一的AI產品是Grok，其曾因出現對圖像中人物進行不當“去衣”處理的問題而受到公眾審視。

當地時間5月5日，CAISI表示，其此前已完成40次AI工具評估，其中包括對某些“最先進但尚未發布的模型”的測試。不過，該中心并未具體說明哪些模型被阻止向公眾發布。

CAISI公告發布后，微軟在一篇公司博客中表示，其本身已對AI模型進行測試，但“涉及國家安全和大規模公共安全風險的測試，必然需要與政府開展協作”。

DeepMind發言人拒絕發表評論。目前，控制著xAI的SpaceX方面亦未回應置評請求。

而在該協議出臺之際，有消息稱，特朗普政府正考慮啟動一項新的政府審查機制，用于評估美國認定可能帶來網絡安全風險的AI工具。

據《華爾街日報》報道，白宮正在考慮一項以網絡安全為重點的行政命令，其中可能包括將一個政府監督小組制度化，以為最強大的AI模型制定標準。其目標是防止這些模型過早發布引發網絡攻擊及其他干擾，從而保護消費者和企業。

白宮方向轉變

這些舉措標志著白宮政策取向的一種變化。

此前，特朗普政府在對AI及科技企業監管方面總體采取較為“放任”的態度。

去年，特朗普曾簽署了一系列行政命令，構成其政府“AI行動計劃”的基礎。他表示，該計劃將“減少繁文縟節和過度監管”，確保美國通過技術進步與控制在AI領域“取勝”。

但隨著美國軍方擴大對AI的應用，以及Anthropic近期聲稱其開發了一款名為Mythos、因“能力過于強大而不適合公開發布”的模型，白宮正在調整其政策立場。

據了解，Mythos的發布對特朗普的一些政策取向構成了挑戰，并在美國政府內部員工和科技行業高管中引發了焦慮。他們擔心，這將開啟一個由AI驅動的大規模漏洞發現時代。他們將之稱為“Bugmageddon”（漏洞末日），在這一過程中，企業和政府機構需要不斷進行漏洞分類、測試和修復，黑客則能越來越容易發現并利用這些漏洞發起網絡攻擊。

事實上，Anthropic與特朗普政府之間的緊張關系已持續數月，這使Mythos的推廣進程更加復雜。

當地時間3月9日，Anthropic起訴美國聯邦政府，稱因雙方在公司產品使用方面存在分歧，遭到對方打擊報復，被列入黑名單。

近幾周來，美國國家網絡總監肖恩·凱恩克羅斯已召集政府官員和科技行業領袖，就應對Mythos展開討論。美國副總統萬斯以及財政部長貝森特也參與了相關會議。貝森特還向金融行業高管發出警告，指出此類模型可能帶來的風險。

與此同時，包括OpenAI和谷歌在內的其他領先AI開發商，也在推出或研發可能帶來網絡風險的模型。而他們還在以不同形式與美國國防部合作，這進一步引發部分AI安全倡導者對如何為技術使用設置適當安全邊界感到擔憂。