人工智能公司在一個問題上分歧明顯:究竟應當盡快推進創新,還是應當更謹慎,以避免潛在的社會危害。
![]()
OpenAI正在擴大其最先進人工智能模型的使用范圍,幫助企業和政府加強網絡防御。這一做法與競爭對手“擬人智能”形成鮮明對比。后者認為,嚴格控制模型訪問權限,才是提升全球網絡安全的最佳方式。
兩家公司在網絡安全上的不同路徑,也折射出人工智能領域更廣泛的爭論:這項技術的發展速度,已經遠遠快于法律、監管和社會層面的約束機制。
![]()
在這樣的背景下,一些公司主張盡可能快速創新,另一些公司則更加謹慎,擔心技術可能帶來的社會危害。
直到不久前,OpenAI的“網絡安全可信訪問計劃”只向少數合作伙伴開放。如今,這家開發聊天生成預訓練轉換器的公司獨家向美國有線電視新聞網表示,計劃把訪問權限開放給所有經過審核的政府層級,從聯邦機構到州和地方辦公室。經核驗并獲批的機構,將可使用限制更少的特殊版本模型。
OpenAI國家安全政策負責人薩莎·貝克在接受美國有線電視新聞網采訪時表示:“作為一家公司,我們并不認為,應由我們單方面決定誰能使用這些工具,以及什么才是最高優先事項。”
![]()
OpenAI的做法,顯然與競爭對手“擬人智能”大不相同。后者推出的“神話”模型,因具備識別并利用軟件漏洞的能力,在網絡安全圈引發震動。“擬人智能”以潛在危害為由,正通過“玻璃翼計劃”這一高度受控的聯盟逐步推出該模型,并表示正與聯邦、州和地方層面的代表密切合作。“擬人智能”認為,面對人工智能落入黑客之手后引發的“軍備競賽”,更慢、更謹慎的推進方式才有必要,也更有助于放緩這種競逐。
此前,OpenAI已經向部分企業和經過審核的獨立安全研究人員開放了其能力最強的模型。如今,貝克表示,公司希望進一步大幅放開使用權限。
![]()
她說:“我們必須讓所有需要網絡防御能力的人都能更公平地獲得幫助,而不是只把這種能力留給世界五十強企業,或者那些付得起高價、規模最大也最光鮮的公司。”
她將最新一代人工智能模型形容為網絡安全領域的一次“警鐘”,同時也認為,這是在這些強大工具落入不當之手前修補漏洞的機會。
她說:“沒有人需要恐慌。但這確實是一個必須行動起來的時刻,而且要協同行動,要講求效率,也要有緊迫感。”
貝克表示,OpenAI最近在華盛頓舉行了一場實操研討會,參與者來自聯邦政府多個部門,包括五角大樓、白宮、國土安全部和國防高級研究計劃局,目的是測試OpenAI最新模型及其網絡安全能力。未來幾周,公司還計劃再次前往華盛頓,就其工具和政策建議收集反饋。
![]()
貝克說:“我們會參考白宮的意見,看他們希望如何推動這項工作,以及希望人工智能公司以什么方式參與其中。”
美國有線電視新聞網證實,OpenAI代表以及包括“擬人智能”、谷歌在內的其他科技公司代表,還有多家大型銀行代表,于周四在白宮與白宮國家網絡安全主任會面,討論人工智能與網絡安全問題。美國有線電視新聞網已向白宮尋求置評。政治新聞網最早報道了這次會議。
![]()
OpenAI還公布了一份擬議中的“行動計劃”,希望在其所稱的“智能時代”協調政府與私營部門之間的網絡安全工作。未來幾天,該公司還計劃為聊天生成預訓練轉換器賬戶推出新的安全功能,并提供更多工具,幫助普通用戶改善個人網絡安全習慣。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.