歐盟就“弱化版”AI法案達成初步協議，禁止深度偽造色情內容

IT之家 5 月 7 日消息，歐盟成員國與歐洲議會議員已就弱化版的人工智能法案達成初步協議，這是是歐盟委員會所謂的“數字一攬子計劃”的一部分。

歐洲議會在周四凌晨發布新聞稿稱，經過深夜談判，各方達成臨時協議，決定推遲人工智能系統部分合規義務的生效時間，以避免法律適用不確定性。

各方商定，將高風險人工智能系統相關法規的生效時間，從原定今年 8 月 2 日推遲至 2027 年 12 月 2 日。這類高風險系統涵蓋生物識別、關鍵基礎設施、教育、就業、執法及邊境管理等領域。

協議還同意將機械設備排除在人工智能法案管轄范圍之外，理由是機械設備只需遵守其現行適用的行業安全法規即可。

批評人士認為，歐盟兩大立法機構此舉是向企業壓力作出妥協讓步。

人工智能生成內容強制水印標注規定將于今年 12 月 2 日正式實施。

塞浦路斯歐洲事務副部長瑪麗萊娜?勞烏納在聲明中表示：“此次《人工智能法案》達成協議，通過降低企業常態化行政成本，為本國企業提供了有力支持。協議保障了法律確定性，讓相關法規在歐盟范圍內落地實施更順暢、標準更統一，同時也強化了歐盟的數字主權與整體競爭力。”

目前塞浦路斯擔任歐盟理事會輪值主席國。

禁止“裸照生成”類應用

歐盟成員國與歐洲議會談判代表還達成共識，禁止利用人工智能應用制作未經授權的色情深度偽造內容。

相關內容包括圖片、視頻及音頻。相關企業需在今年 12 月 2 日前完成系統合規整改。

此次擬定的禁令還明確將制作兒童性虐待相關虛假影像內容納入管控范疇。

歐盟此次修訂舉措，在很大程度上是對今年年初相關事件的回應：當時有用戶利用美國富豪埃隆?馬斯克旗下的人工智能聊天機器人 Grok，在網絡上生成并傳播數百萬張由 AI 制作的女性及兒童色情影像。

聲明指出：“我們正加大對兒童的保護力度，防范人工智能系統帶來的相關風險。此次協議充分證明歐盟各機構具備快速行動、兌現承諾的能力。”

簡化監管配套舉措

IT之家注意到，歐盟《人工智能法案》已于 2024 年 8 月正式生效，核心條款將分階段逐步落地實施。

此次周三達成的修訂方案，是歐盟委員會推進簡化各類新興數字監管法規工作的一部分。該協議后續還需經歐洲議會全體會議及歐盟各國政府正式批準，而這一流程普遍被認為只是例行程序。