無獨有偶,李梓萌、溫崢嶸、靳東、全紅嬋等公眾人物,近期接連深陷AI換臉盜播漩渦。
披著名人外皮的虛擬數字人游走在各大直播間,虛假帶貨、誤導消費者、肆意侵權。
官方接連出手整治亂象,人民日報、央視多次發聲揭露真相。
![]()
直播畫面傳播擴散后,大量網民產生質疑,虛假直播擾亂了正常的網絡傳播秩序。
當地網警巡查時快速捕捉到這一違規賬號,核查后明確邢某行為觸犯治安管理相關法規。
該行為屬于盜用冒用他人身份名義牟利,定性為招搖撞騙違法行為,當事人最終被處以行政拘留。
![]()
很多人疑惑,為何名人肖像會被普通人輕易盜用?核心原因是民用AI工具門檻極低。
現階段各類換臉、數字人生成軟件操作簡單、成本低廉,普通人幾分鐘就能復刻仿真人像。
監管初期漏洞、平臺審核松懈,讓大量投機者肆無忌憚,把公眾人物當成流量工具。
邢某這起案例,只是全網泛濫的AI侵權亂象中,被官方查處的冰山一角。
![]()
這種跨地域的惡意侵權,不僅損害當事人名譽,還極易誤導兩岸民眾認知,產生不必要的輿論隔閡。
更深層的行業現狀更值得警惕,目前網上流通的AI換臉模板、名人聲音數據包,大多在灰色渠道低價售賣。
一套完整名人仿真素材成本不足百元,零基礎普通人也能快速上手制作直播畫面,極低的違法門檻,讓造假行為屢禁不止。
央視主持人李梓萌曾被不法分子克隆人臉與聲線,虛擬形象坐鎮仿官方演播廳帶貨。
![]()
直播間內,假李梓萌大肆吹捧深海多烯魚油,刻意夸大產品功效,宣稱能夠調理多種身體不適。
騙子刻意綁定央視公信力背書,利用中老年群體的信任短板,快速收割大批訂單。
有消費者下單食用半個月毫無效果,查看產品標注才發現,這款所謂保健品本質只是普通糖果。
![]()
市場監管部門介入調查后,從畫面光影、口型錯位、畫面亂碼等細節,判定為AI合成造假。
彼時李梓萌專注節目籌備,從未涉足直播帶貨,無端背負虛假營銷的負面爭議。
演員溫崢嶸的遭遇更是無奈,平臺同時出現四個高仿賬號,全天候切換不同場景直播。
![]()
有的賬號分享護膚流程,有的拍攝日常閑聊,甚至凌晨時段還有賬號直播進食。
本人親自前往假冒賬號質問,換來的只有一鍵拉黑,團隊單日最高舉報五十個違規賬號。
體育運動員同樣未能幸免,全紅嬋被制作虛擬形象推銷土雞蛋,虛假宣傳食用后可提升體能。
![]()
該虛假產品銷量突破四萬件,直至運動員家屬公開辟謠,大眾才知曉這是AI造假騙局。
靳東早前就曾公開警示此類亂象,不法分子利用AI合成視頻,針對性欺騙中老年女性粉絲。
騙子模仿靳東語氣溫情對話,誘導粉絲消費、轉賬,精準拿捏老年群體的情感缺口。
![]()
這類受騙人群大多辨別能力薄弱,平時很少接觸新型網絡技術,默認屏幕里的人臉就是真人本人。
他們對公眾人物自帶信任感,不會主動去核查賬號認證、畫面真偽,往往在不知不覺中掉入消費陷阱。
即便事后察覺被騙,多數人維權流程繁瑣,取證難度大,最后只能不了了之。
![]()
除此之外,還有大量小眾藝人、行業專家也頻繁遭遇AI盜用以至商用。
部分商家截取人物公開采訪片段,篡改字幕、替換臺詞,強行綁定各類雜牌產品,借助名人公信力擴大銷量。
這類侵權行為隱蔽性更強,批量維權成本極高,很多當事人只能被動忍受侵權亂象。
![]()
這也是靳東一直擔憂的問題,AI技術濫用,讓毫無防備能力的普通人成為主要受害群體。
泛濫的AI侵權亂象,倒逼監管部門、網絡平臺快速出臺整改措施。
短視頻平臺在今年十月開啟專項治理,一次性處置一萬一千余個虛假達人賬號。
![]()
平臺下架六千七百多款仿冒虛假產品,同時升級智能識別系統,自動篩查AI合成內容。
直播行業新增實名登記硬性要求,從源頭管控匿名賬號造假牟利的違規行為。
法律法規層面同樣完成優化,深度合成管理辦法明確規定,AI生成內容必須標注特殊標識。
![]()
未主動標注合成屬性、刻意隱瞞虛擬身份的直播行為,一律判定為違規操作。
曾有企業盜用教授演講音頻做產品推廣,AI合成虛假宣傳,最終被判罰款十二萬元并公開致歉。
業內法律學者表示,當前造假成本低、侵權獲利高,是亂象持續蔓延的關鍵誘因。
![]()
即便被侵權的公眾人物勝訴,獲得的賠償金額,也遠不及不法分子的非法收益。
除了商業牟利,濫用AI還會衍生更多隱患,虛假信息傳播、個人隱私泄露難以管控。
![]()
警方多次公開提示,AI使用必須恪守法律底線,尊重社會公德,嚴禁借技術實施違法活動。
普通網民也可主動舉報違規AI內容,全民共治搭建干凈合規的網絡傳播環境。
同時平臺還要完善人臉保護機制,給公眾人物增設專屬防護通道,攔截高仿虛假賬號。
![]()
監管層面也在持續細化處罰標準,不再單一處以小額罰款,對反復造假、惡意牟利的賬號實行永久封禁,追究民事乃至刑事責任。
多重管控手段并行,才能從根源壓縮灰色產業的生存空間。
AI技術本身沒有優劣之分,便捷的創作工具本該服務于大眾生活,而非淪為牟利作惡的工具。
![]()
從公眾人物無端被侵權,到普通消費者受騙受損,AI造假傷害著每一個網絡參與者。
平臺管控、法律約束、大眾甄別缺一不可,只有守住技術底線,才能遏制亂象蔓延。
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.