貍貓換太子？公安部終于出手，鄭麗文太無(wú)辜，但何止她一人受害

她去年10月當(dāng)選國(guó)民黨主席，11月正式就任，今年4月才率團(tuán)踏上江蘇、上海、北京的訪陸之旅。她在臺(tái)北的會(huì)議室里部署黨務(wù)，山西的騙子已經(jīng)在直播間替她＂賣貨＂。

她對(duì)此事毫不知情，卻被迫成了一樁刑事案件的＂代言人＂。更扎心的是，那批沖進(jìn)直播間下單的中老年人，多半是帶著真情實(shí)感去的。

這才是這樁案子和普通AI詐騙最大的不同。普通仿冒明星帶貨，騙的是錢包；仿冒一位剛剛率團(tuán)訪陸、與大陸形成政治呼應(yīng)的臺(tái)灣地區(qū)政黨人物，騙走的是一份剛剛回暖的兩岸民間善意。

代價(jià)不止人民幣那么簡(jiǎn)單。設(shè)想一下另一種走向：如果這條直播沒被山西大同網(wǎng)警及時(shí)盯上，再發(fā)酵幾天，會(huì)不會(huì)被反華、反中勢(shì)力剪輯包裝成＂國(guó)民黨主席親自來(lái)大陸賺人民幣＂的輿論素材？

把鏡頭拉遠(yuǎn)一點(diǎn)看，這種＂AI借臉＂的把戲在國(guó)際上早就開始制造麻煩了。2023年9月，斯洛伐克大選投票前48小時(shí)，一段偽造的候選人討論＂操縱選票＂的AI音頻在臉書瘋傳，被認(rèn)為直接影響了那場(chǎng)勢(shì)均力敵的選情。

2024年初，美國(guó)新罕布什爾州初選前夕，有人用AI克隆拜登的聲音打了幾千個(gè)機(jī)器電話，勸民主黨選民別去投票，操盤手最終被FBI罰了600萬(wàn)美元。

同年，韓國(guó)爆發(fā)大規(guī)模Deepfake色情圖像案，警方一口氣查處數(shù)百名涉案者，連青瓦臺(tái)都不得不出面回應(yīng)。

這些事件加在一起說(shuō)明一件事：AI偽造內(nèi)容已經(jīng)不再是＂詐騙＂這一個(gè)維度的問題，它正在變成干預(yù)政治、撕裂社會(huì)、操縱輿論的新型工具。

被消費(fèi)的，是臺(tái)灣地區(qū)民眾對(duì)國(guó)民黨新任領(lǐng)導(dǎo)層的期待；被透支的，是中國(guó)大陸民眾對(duì)兩岸交流＂含金量＂的判斷；被拖累的，是中國(guó)監(jiān)管機(jī)構(gòu)這兩年好不容易積累的網(wǎng)絡(luò)治理公信力。這是一條多輸?shù)逆湕l。

中國(guó)大陸這兩年其實(shí)沒少出招。2023年8月起，《生成式人工智能服務(wù)管理暫行辦法》落地。

2024年，中央網(wǎng)信辦連續(xù)推出多輪＂清朗＂專項(xiàng)行動(dòng)，＂AI技術(shù)濫用＂被單獨(dú)列為重點(diǎn)方向。今年4月，抖音也專門通報(bào)，已下架AI侵權(quán)視頻超過(guò)53.8萬(wàn)條，處罰違規(guī)賬號(hào)四千多個(gè)。

法規(guī)、平臺(tái)、警方，三條線都在往同一個(gè)方向使勁。但坦白講，速度還不夠快，火力還不夠猛。理由很簡(jiǎn)單——AI造假的邊際成本已經(jīng)低到嚇人。

一臺(tái)普通筆記本、一個(gè)開源模型、幾段公眾人物的視頻素材，下午茶的工夫就能合成一段以假亂真的＂講話＂。而追查、取證、行政處罰的鏈條，仍然是按傳統(tǒng)案件的速度在走。

這是一場(chǎng)不對(duì)稱的戰(zhàn)爭(zhēng)。我個(gè)人判斷，下一階段會(huì)有三件事必須加碼。一是把＂AI生成內(nèi)容強(qiáng)制標(biāo)識(shí)＂從指引升級(jí)為硬約束。

今年9月《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》才會(huì)正式生效，但凡平臺(tái)不打水印、不嵌元數(shù)據(jù)，就該承擔(dān)連帶責(zé)任，而不是出了事再補(bǔ)救。二是要建立針對(duì)涉外、涉兩岸公眾人物的＂特別保護(hù)清單＂。

這些人的臉一旦被濫用，殺傷力遠(yuǎn)超普通明星，處置鏈條必須更短、響應(yīng)必須更快。三是要讓國(guó)際同行明白，中國(guó)對(duì)AI濫用是＂零容忍＂的。

測(cè)試結(jié)果還算合格——案件發(fā)現(xiàn)得快、定性得準(zhǔn)、處置得清楚。但這只是開始，不是結(jié)束。最后想留幾句話給屏幕前的普通讀者。

記住一條簡(jiǎn)單的判斷：任何政治人物，無(wú)論是臺(tái)灣地區(qū)的，還是大陸的，都不可能跑到一個(gè)粉絲寥寥的小號(hào)直播間里推銷特產(chǎn)。這不符合常識(shí)，更不符合規(guī)則。

凡是用＂兩岸＂＂家國(guó)＂＂情懷＂這種大詞為雜貨引流的賬號(hào)，先把它當(dāng)成可疑對(duì)象，再去看內(nèi)容。凡是要你下單、轉(zhuǎn)賬、掃碼、加私域的＂名人直播＂，無(wú)論畫面多逼真，轉(zhuǎn)頭就走。

家里有刷短視頻的長(zhǎng)輩，今晚就該把這些話翻譯給他們聽。騙子最愛的，永遠(yuǎn)是那些既相信權(quán)威、又不熟悉技術(shù)的人。

科技有邊界，人心有底線，規(guī)則有牙齒——三件事缺一不可。劇本到這里，希望就此打住，別再有下一集。