受害者終于等來公道！歐盟新規(guī)重拳出擊：全面禁止“AI脫衣”

歐盟即將禁止生成兒童受侵害材料以及未經(jīng)成年人同意的露骨影像的人工智能工具。

歐洲議會與歐盟理事會的談判代表于周四同意禁止這類人工智能系統(tǒng)，但仍需正式立法通過。

預(yù)計(jì)相關(guān)程序?qū)⒃?月初前完成，涵蓋圖像、視頻和音頻。禁令適用于歐盟市場上以生成此類內(nèi)容為目的的人工智能系統(tǒng)，或未采取合理安全措施的系統(tǒng)。企業(yè)須在12月2日前確保其系統(tǒng)符合規(guī)定。

這項(xiàng)安排是圍繞人工智能工具達(dá)成的更廣泛協(xié)議的一部分。

愛爾蘭籍歐洲議會議員邁克爾·麥克納馬拉表示，他們已推動將“去衣化”應(yīng)用納入禁令，這是他們的一項(xiàng)關(guān)鍵訴求。麥克納馬拉是歐洲議會公民自由、司法與內(nèi)政委員會的共同報(bào)告人。

他說，他們之所以為此據(jù)理力爭，是因?yàn)槲唇?jīng)同意的私密影像正在成為一種被人工智能工業(yè)化放大的系統(tǒng)性傷害，而受害者絕大多數(shù)是婦女和女孩。

麥克納馬拉還表示，這將是歐盟人工智能法律首次明確寫入此類禁令。

他說，這項(xiàng)協(xié)議為歐盟公民帶來了切實(shí)保護(hù)，他對所取得的成果感到自豪。歐洲議會當(dāng)時(shí)有機(jī)會為婦女和兒童采取行動，而他們抓住了這個(gè)機(jī)會。

互聯(lián)網(wǎng)觀察基金會近日表示，2025年，人工智能生成的涉及侵害兒童內(nèi)容的視頻數(shù)量較前一年增長超過260倍。

該機(jī)構(gòu)嚴(yán)肅發(fā)出警示，隨著人工智能技術(shù)快速普及，視頻生成大模型、網(wǎng)絡(luò)各類 “去衣化” 違規(guī)應(yīng)用、付費(fèi)訂閱灰色平臺以及具備自主交互能力的代理型 AI 系統(tǒng)持續(xù)泛濫，正為不法分子大開方便之門。

借助這些新興技術(shù)工具，違法分子得以突破傳統(tǒng)限制，規(guī)模化批量制作、跨平臺大肆傳播各類非法不良內(nèi)容，惡意篡改真實(shí)未成年人的肖像與影像素材，同時(shí)利用智能算法模擬和兒童虛擬角色進(jìn)行低俗露骨的聊天互動，嚴(yán)重侵害未成年人權(quán)益，擾亂網(wǎng)絡(luò)空間秩序，滋生各類網(wǎng)絡(luò)犯罪隱患。

根據(jù)目前已進(jìn)入立法最后階段的新《犯罪與警務(wù)法案》，社交媒體平臺必須在48小時(shí)內(nèi)刪除被舉報(bào)的未經(jīng)同意影像。

未履行這一義務(wù)的平臺將面臨高額罰款，或其服務(wù)在英國被封鎖。新規(guī)還將禁止用于人工智能深度偽造的“去衣化”工具。

未經(jīng)同意私密影像案件的受害者，報(bào)案期限將從目前的6個(gè)月延長至最長3年。

盡管《犯罪與警務(wù)法案》看起來將加強(qiáng)對未經(jīng)同意私密影像問題的打擊，但專家警告，面對不斷擴(kuò)大的傷害，平臺還必須采取更多措施。