確保先進(jìn)人工智能安全的四種治理方法

2026年1月，蘭德公司發(fā)布了《確保先進(jìn)人工智能安全的四種治理方法》（Four Governance Approaches to Securing Advanced AI）的報(bào)告。報(bào)告指出，隨著人工智能技術(shù)尤其是一系列先進(jìn)通用模型的迅猛發(fā)展，其對(duì)經(jīng)濟(jì)穩(wěn)定、社會(huì)安全乃至國(guó)家戰(zhàn)略帶來(lái)的潛在風(fēng)險(xiǎn)日益引發(fā)政策界的高度關(guān)注。盡管部分領(lǐng)先企業(yè)已自愿承諾加強(qiáng)其系統(tǒng)的安全防護(hù)，但在激烈的市場(chǎng)競(jìng)爭(zhēng)壓力與各行其是的安防措施下，單純依賴行業(yè)自我監(jiān)管的有效性受到廣泛質(zhì)疑。與此同時(shí)，政府若直接干預(yù)，又可能面臨抑制創(chuàng)新、抬高行業(yè)門檻、削弱本國(guó)競(jìng)爭(zhēng)力的風(fēng)險(xiǎn)。研究系統(tǒng)性地提出并剖析了四種可用于加強(qiáng)先進(jìn)人工智能系統(tǒng)開(kāi)發(fā)者安全實(shí)踐的治理路徑，旨在為政府和產(chǎn)業(yè)界在安全與創(chuàng)新之間尋找審慎平衡提供決策參考。

一、人工智能安全治理的緊迫性與復(fù)雜性

人工智能，尤其是那些具有強(qiáng)大通用能力和潛在變革性影響的前沿模型，其安全性已超越傳統(tǒng)網(wǎng)絡(luò)安全范疇，關(guān)涉國(guó)家經(jīng)濟(jì)韌性、基礎(chǔ)設(shè)施穩(wěn)定乃至國(guó)際戰(zhàn)略優(yōu)勢(shì)。這些系統(tǒng)若被竊取、濫用或惡意篡改，可能引發(fā)從大規(guī)模虛假信息蔓延、關(guān)鍵基礎(chǔ)設(shè)施癱瘓到自主武器系統(tǒng)失控等一系列災(zāi)難性后果。然而，當(dāng)前安全治理面臨多重困境：一方面，市場(chǎng)競(jìng)賽驅(qū)使企業(yè)將大量資源傾注于能力提升而非安全加固，形成“速度優(yōu)先于安全”的潛在慣性；另一方面，人工智能技術(shù)迭代迅速、系統(tǒng)復(fù)雜且黑箱特性突出，使得設(shè)計(jì)一套普適、有效且動(dòng)態(tài)演進(jìn)的安全標(biāo)準(zhǔn)極為困難。此外，治理對(duì)象涵蓋從初創(chuàng)企業(yè)到科技巨頭的多元主體，其規(guī)模、資源與風(fēng)險(xiǎn)等級(jí)差異顯著，要求任何治理框架必須具備高度的適應(yīng)性與比例性原則。因此，探索既能為高風(fēng)險(xiǎn)活動(dòng)設(shè)定必要護(hù)欄，又能避免扼殺行業(yè)活力與技術(shù)進(jìn)步的治理模式，成為當(dāng)前政策制定的核心課題。

二、四種治理路徑的核心架構(gòu)與運(yùn)行機(jī)制

為應(yīng)對(duì)上述挑戰(zhàn)，蘭德報(bào)告提出了四種具象化的治理方案，每種方案均在領(lǐng)導(dǎo)主體、安全要求、合規(guī)驗(yàn)證與執(zhí)行機(jī)制四個(gè)核心維度上呈現(xiàn)出不同設(shè)計(jì)。

第一種方案為“政府強(qiáng)制執(zhí)行的人工智能安全標(biāo)準(zhǔn)”（SAFE-AI）。該模式旨在通過(guò)立法授權(quán)，在人工智能安全與安全研究所（AISsI）對(duì)開(kāi)發(fā)高風(fēng)險(xiǎn)通用模型的企業(yè)施加強(qiáng)制性的安全標(biāo)準(zhǔn)，防范能帶來(lái)國(guó)家級(jí)威脅主體的竊取與濫用。其安全要求兼具規(guī)定性與結(jié)果導(dǎo)向性，并依據(jù)模型訓(xùn)練算力等客觀閾值進(jìn)行風(fēng)險(xiǎn)分級(jí)，對(duì)最高風(fēng)險(xiǎn)級(jí)別施加最嚴(yán)格防護(hù)。合規(guī)通過(guò)審計(jì)、現(xiàn)場(chǎng)檢查、獨(dú)立政府紅隊(duì)測(cè)試及事件報(bào)告等多重手段驗(yàn)證，并輔以從糾正行動(dòng)計(jì)劃、分級(jí)行政處罰直至?xí)和＿\(yùn)營(yíng)和公開(kāi)違規(guī)信息等一系列逐步升級(jí)的執(zhí)法工具。此方案以最強(qiáng)的法律權(quán)威性和全覆蓋的監(jiān)管范圍，提供了最高水平的安全保障預(yù)期，但同時(shí)也可能給行業(yè)帶來(lái)最顯著的合規(guī)成本與負(fù)擔(dān)。

第二種方案聚焦于“政府機(jī)構(gòu)使用導(dǎo)向的人工智能開(kāi)發(fā)者授權(quán)計(jì)劃”（SecureAI Authorization）。該方案并不尋求全面監(jiān)管，而是通過(guò)修訂聯(lián)邦采購(gòu)政策，將“安全設(shè)計(jì)”原則作為人工智能產(chǎn)品與服務(wù)獲準(zhǔn)用于政府系統(tǒng)的先決條件。在風(fēng)險(xiǎn)與授權(quán)管理計(jì)劃框架下擴(kuò)展設(shè)立專門辦公室，根據(jù)模型處理數(shù)據(jù)的敏感度與決策影響程度劃分風(fēng)險(xiǎn)等級(jí)并對(duì)應(yīng)設(shè)計(jì)差異化的安全要求。開(kāi)發(fā)者自愿參與，但一旦尋求政府合同則需接受第三方評(píng)估、持續(xù)監(jiān)控并遵守相關(guān)安全計(jì)劃。執(zhí)法機(jī)制主要體現(xiàn)為授權(quán)的中止或撤銷。此方案利用政府的龐大采購(gòu)力作為杠桿，激勵(lì)開(kāi)發(fā)者提升安全水平，其自愿參與性質(zhì)降低了對(duì)全行業(yè)的整體負(fù)擔(dān)，但也可能因覆蓋面有限而無(wú)法有效管控不與政府交易的潛在高風(fēng)險(xiǎn)實(shí)體。

第三種方案倡導(dǎo)建立“行業(yè)主導(dǎo)的人工智能安全認(rèn)證體系”（FASSO）。該模式主張由前沿人工智能實(shí)驗(yàn)室、安全專家及政府觀察員共同組成多方利益相關(guān)者聯(lián)盟，制定一套自愿參與但具有約束力的安全認(rèn)證標(biāo)準(zhǔn)。參與企業(yè)需注冊(cè)模型、完成自評(píng)并接受第三方審計(jì)，認(rèn)證結(jié)果納入公開(kāi)名錄并接受持續(xù)監(jiān)測(cè)。違規(guī)將面臨整改、暫停認(rèn)證乃至公開(kāi)披露等后果。其優(yōu)勢(shì)在于安全要求由行業(yè)專家共同制定，更貼近技術(shù)現(xiàn)實(shí)與操作可行性，且行業(yè)主導(dǎo)能增強(qiáng)參與方的認(rèn)同感與責(zé)任感。然而，其完全自愿的性質(zhì)可能導(dǎo)致激勵(lì)不足、參與率有限，且為吸引廣泛加入，標(biāo)準(zhǔn)本身可能存在妥協(xié)，從而削弱整體安全效能。

第四種方案則強(qiáng)調(diào)“自我調(diào)節(jié)與強(qiáng)化政企協(xié)作”。該路徑不建立正式合規(guī)制度，而是通過(guò)針對(duì)性的政府支持與服務(wù)來(lái)賦能行業(yè)提升安全實(shí)踐。具體舉措包括：由政府機(jī)構(gòu)（如國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院）牽頭，會(huì)同產(chǎn)業(yè)界共同制定填補(bǔ)當(dāng)前空白的技術(shù)安全標(biāo)準(zhǔn)；建立常態(tài)化的政企情報(bào)與信息共享機(jī)制，使企業(yè)能及時(shí)獲知特定威脅與漏洞；政府安全機(jī)構(gòu)（如國(guó)家安全局）為人工智能實(shí)驗(yàn)室提供紅隊(duì)評(píng)估與滲透測(cè)試服務(wù)，模擬高級(jí)持續(xù)性威脅；協(xié)助企業(yè)對(duì)敏感崗位人員進(jìn)行背景審查，以降低內(nèi)部威脅風(fēng)險(xiǎn)。此方案靈活性最高，幾乎不施加強(qiáng)制性負(fù)擔(dān)，但其安全推進(jìn)效果完全取決于企業(yè)的自愿參與程度與市場(chǎng)自律，可能導(dǎo)致安全實(shí)踐在行業(yè)內(nèi)分布不均，難以系統(tǒng)性地應(yīng)對(duì)最嚴(yán)峻威脅。

三、現(xiàn)行治理生態(tài)的不足與

框架實(shí)施的關(guān)鍵要素

盡管存在多種潛在路徑，但當(dāng)前美國(guó)在先進(jìn)人工智能安全治理領(lǐng)域仍缺乏統(tǒng)一、權(quán)威且可執(zhí)行的頂層框架。碎片化的自愿倡議、行業(yè)自發(fā)的安全投入以及尚在雛形中的政策討論，共同構(gòu)成了一幅充滿不確定性的圖景。借鑒核能、化工、醫(yī)療等高危行業(yè)的安全監(jiān)管經(jīng)驗(yàn)，任何有效的人工智能安全治理體系都必須夯實(shí)四大基礎(chǔ)要素：一是明確的領(lǐng)導(dǎo)與制度能力，即授權(quán)特定機(jī)構(gòu)具備足夠的資源、專業(yè)知識(shí)和法定權(quán)威來(lái)設(shè)計(jì)與實(shí)施治理框架；二是清晰的安全要求，確立保護(hù)系統(tǒng)、數(shù)據(jù)和物理資產(chǎn)的具體預(yù)期，形成問(wèn)責(zé)與監(jiān)督的基礎(chǔ)；三是健全的合規(guī)驗(yàn)證機(jī)制，包括審計(jì)、報(bào)告、獨(dú)立測(cè)試等流程，以客觀評(píng)估實(shí)體是否達(dá)標(biāo)；四是有效的執(zhí)行工具，通過(guò)包括處罰與利益剝奪在內(nèi)的手段驅(qū)動(dòng)合規(guī)。此外，比例性原則（使要求與實(shí)體的風(fēng)險(xiǎn)水平和運(yùn)營(yíng)能力相匹配）以及透明化的利益相關(guān)者參與，是確保治理框架兼具正當(dāng)性、可接受性與實(shí)效性的關(guān)鍵指導(dǎo)原則。當(dāng)前人工智能治理的討論往往聚焦于原則宣言，而在扎實(shí)構(gòu)建這些具體要素方面仍顯滯后。

四、政策選擇：在安全、合規(guī)與

行業(yè)負(fù)擔(dān)間尋求平衡

四種治理路徑并非互斥，但其側(cè)重點(diǎn)與帶來(lái)的權(quán)衡取舍截然不同。決策者需基于對(duì)國(guó)家面臨風(fēng)險(xiǎn)的等級(jí)判斷、市場(chǎng)自我調(diào)節(jié)能力的評(píng)估以及對(duì)創(chuàng)新生態(tài)影響的考量進(jìn)行選擇。若政策制定者認(rèn)為前沿人工智能已構(gòu)成明確且緊迫的災(zāi)難性風(fēng)險(xiǎn)，足以類比于國(guó)家級(jí)安全威脅，那么“政府強(qiáng)制執(zhí)行的人工智能安全標(biāo)準(zhǔn)”模式提供了最強(qiáng)有力的應(yīng)對(duì)工具。它能確保所有高風(fēng)險(xiǎn)開(kāi)發(fā)者受到統(tǒng)一且高標(biāo)準(zhǔn)的約束，最大程度防御國(guó)家級(jí)對(duì)手。然而，其代價(jià)是可能帶來(lái)較高的監(jiān)管成本，并對(duì)中小型創(chuàng)新企業(yè)構(gòu)成入場(chǎng)壁壘。

如果風(fēng)險(xiǎn)認(rèn)知仍處于發(fā)展中，且首要目標(biāo)是確保融入政府核心職能與國(guó)家安全系統(tǒng)的人工智能高度可靠，那么“政府使用導(dǎo)向的人工智能開(kāi)發(fā)者授權(quán)計(jì)劃”方案提供了更具針對(duì)性的抓手。它以較小的整體行業(yè)負(fù)擔(dān)，通過(guò)經(jīng)濟(jì)利益引導(dǎo)，優(yōu)先加固了最敏感應(yīng)用場(chǎng)景的安全防線。

倘若認(rèn)為行業(yè)自身具備足夠的動(dòng)力與專業(yè)知識(shí)來(lái)主導(dǎo)安全提升，且強(qiáng)制性監(jiān)管可能弊大于利，“行業(yè)主導(dǎo)的人工智能安全認(rèn)證體系”或“自我調(diào)節(jié)與強(qiáng)化政企協(xié)作”模式則提供了更具靈活性的選項(xiàng)。前者通過(guò)建立行業(yè)共識(shí)與聲譽(yù)機(jī)制推動(dòng)安全標(biāo)準(zhǔn)化，后者則通過(guò)政府提供“賦能服務(wù)”輔助市場(chǎng)力量發(fā)揮作用。這兩種路徑對(duì)創(chuàng)新的潛在抑制最小，但其安全成效的廣度與深度也最不確定，高度依賴于行業(yè)自律的成熟度與廣泛性。

五、構(gòu)建敏捷、風(fēng)險(xiǎn)適配的

人工智能安全治理未來(lái)

人工智能技術(shù)的變革速度要求其安全治理框架必須具備前瞻性、適應(yīng)性與韌性。面對(duì)先進(jìn)人工智能系統(tǒng)帶來(lái)的深遠(yuǎn)社會(huì)風(fēng)險(xiǎn)，被動(dòng)應(yīng)對(duì)與零敲碎補(bǔ)已不足以為訓(xùn)。政策制定者需在深入評(píng)估風(fēng)險(xiǎn)本質(zhì)的基礎(chǔ)上，盡快確定其治理范式的戰(zhàn)略取向。是依托于國(guó)家強(qiáng)制力建立統(tǒng)一的高標(biāo)準(zhǔn)防線，還是利用政府采購(gòu)權(quán)力進(jìn)行重點(diǎn)牽引，或是主要依賴行業(yè)自律輔以政府賦能，不同的選擇將塑造截然不同的產(chǎn)業(yè)生態(tài)與安全格局。

理想的道路或許并非簡(jiǎn)單擇一而從，而是在明確核心風(fēng)險(xiǎn)管控底線（如防范國(guó)家級(jí)威脅與災(zāi)難性濫用）的基礎(chǔ)上，采取分層、分類的混合治理策略。例如，可對(duì)極少數(shù)具備最強(qiáng)大能力、構(gòu)成“前沿風(fēng)險(xiǎn)”的模型開(kāi)發(fā)實(shí)施類似SAFE-AI的嚴(yán)格監(jiān)管；同時(shí)，通過(guò)支持標(biāo)準(zhǔn)制定、擴(kuò)大情報(bào)共享和紅隊(duì)服務(wù)等政企協(xié)作措施，全面提升整個(gè)行業(yè)的基礎(chǔ)安全水位。通過(guò)這種組合拳，方能在堅(jiān)決守護(hù)安全底線與悉心培育創(chuàng)新沃土之間，找到動(dòng)態(tài)且可持續(xù)的平衡點(diǎn)，確保在駕馭人工智能巨大潛力的同時(shí)，有效管控其伴隨的世代性風(fēng)險(xiǎn)。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見(jiàn)。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見(jiàn)

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見(jiàn)。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er