近幾日,幾張圖片出現(xiàn)在互聯(lián)網(wǎng)上。圖中是一架采用解放軍深綠色迷彩卡-52直升機,背景還能看到某處基地的建筑。許多人以這幾張圖片作為陸軍航空兵已經(jīng)開始接收卡-52的證據(jù)并大肆傳播。不過部分網(wǎng)友經(jīng)過仔細(xì)觀察,發(fā)現(xiàn)這幾張圖無一例外是由AI生成的虛假圖片。
![]()
所謂陸軍航空兵卡-52照片
在這幾張圖片中,最“具備說服力”的就是這張。乍一看,這張圖包含了照相機和屏幕上顯示的參數(shù)和設(shè)置,似乎是當(dāng)事人直接用手機拍攝相機屏幕,給人一種非常真實的感覺。可實際上,這張圖包含大量漏洞。這架卡-52在起落架放下的狀態(tài)時,起落架艙內(nèi)依然還能看見輪胎,它的光電瞄準(zhǔn)系統(tǒng)也直接“失蹤”……更重要的是,右上角顯示的相機電量還有68%,但旁邊可視化的剩余電量已經(jīng)掉到了最后一格,明顯矛盾。很顯然,這都是AI在生成圖片時,出現(xiàn)的失真情況。但不可否認(rèn)的是,這張圖的大部分細(xì)節(jié)都很完善,整體光影效果也幾乎可以做到以假亂真,如果不仔細(xì)觀察,確實很難發(fā)現(xiàn)破綻。
事實上,這樣AI生成的虛假圖像在近些年的互聯(lián)網(wǎng)上層出不窮,軍情戰(zhàn)報領(lǐng)域更是重災(zāi)區(qū)。在中東地區(qū)的大小沖突中,AI生成的圖像和視頻幾乎占領(lǐng)了互聯(lián)網(wǎng)。一些社交平臺的管理人員曾抱怨說,在“史詩憤怒”行動開始后的幾天里,平臺上超過90%的“戰(zhàn)況”都是由AI生成的。這其中有些是出現(xiàn)比例失調(diào)或“六指類人”等元素的低劣偽造,有些卻精心偽裝,外行人難辨真假,內(nèi)行人需要反復(fù)觀察才能發(fā)現(xiàn)破綻。偽造者反復(fù)調(diào)試AI模型生成虛假的內(nèi)容,抹去水印投放在互聯(lián)網(wǎng)上,再經(jīng)由一些媒體或個人有意無意地轉(zhuǎn)發(fā),這些虛假的圖片和視頻就會如病毒般擴散。
一些AI生成的圖片(娛樂向):
![]()
馬杜羅抓捕美軍
![]()
加裝防護(hù)網(wǎng)的卡-52
![]()
解放軍的高達(dá)
![]()
伊朗“飛毯空軍”
由AI制作的虛假圖像和視頻種類繁多,但是有關(guān)軍事的內(nèi)容卻總會引起更多的熱議,這其實是偽造者利用了軍事圖像稀缺性的特點。以中東局勢為例,過去沖突地區(qū)往往高度封閉且信息受控,外界往往需要等待數(shù)個小時甚至數(shù)天時間才能得到現(xiàn)場圖像或視頻。這些沖突也總能成為國際熱點,引發(fā)媒體和群眾的關(guān)注,帶來對視覺證據(jù)的強烈渴求。畢竟總是說“眼見為實”,有照片有視頻似乎就能成為鑒定真?zhèn)蔚摹敖^對證據(jù)”。而在AI軟件出現(xiàn)后,圖片和視頻的造假成本被顯著降低,真實度較高的圖片或短視頻,通常只需要輸入關(guān)鍵詞就能生成,且耗時只有幾分鐘甚至幾秒鐘。于是,一些人出于對流量的追求,開始用AI生成虛假的圖片和視頻,達(dá)到博人眼球的目的。而危害性更大的,是一些勢力開始將AI作為認(rèn)知作戰(zhàn)的“廉價彈藥”,對公眾進(jìn)行刻意的誤導(dǎo)。
需要引起警惕的是,AI生成內(nèi)容帶來的問題不再局限于普通社交媒體用戶被誤導(dǎo),其甚至已經(jīng)挑戰(zhàn)了專業(yè)新聞編輯的核查能力。互聯(lián)網(wǎng)上的軍情信息也不再追求真實和客觀,被海量的視覺奇觀所掩蓋。在過去的幾個月里,無論美國、以色列還是伊朗都在從官方層面發(fā)布大量AI偽造的圖像和視頻,一場由AI生成的輿論戰(zhàn)正在互聯(lián)網(wǎng)上展開。這不僅會導(dǎo)致群眾受到誤導(dǎo),也會讓一些原本真實的內(nèi)容被打上AI的標(biāo)簽,最終反而導(dǎo)致真相被虛假信息掩蓋。
![]()
各種林肯號被擊沉的圖像
![]()
AI生成的伊朗俘虜美軍飛行員
![]()
被德州州長阿博特轉(zhuǎn)發(fā)的AI生成圖片
![]()
網(wǎng)傳內(nèi)塔尼亞胡被炸死后,為了證明自己沒有死,曾經(jīng)上傳過一段視頻表明自己仍然活著。但網(wǎng)友發(fā)現(xiàn)視頻中存在許多破綻,認(rèn)為這段視頻是AI生成的!
當(dāng)然,AI軟件和社交平臺也在采取措施限制AI圖像和視頻的生成和傳播。目前最主流的手段,是在圖像和視頻內(nèi)加入肉眼不可見的水印,社交平臺也會掃描這些文件,識別隱藏的水印或檢測AI特征,自動加入“AI生成”的提示標(biāo)簽。一些社交平臺也計劃修改AI作品的推送機制和利潤標(biāo)準(zhǔn),“勸退”試圖用AI生成虛假內(nèi)容進(jìn)行斂財?shù)耐稒C者。當(dāng)然,專家表示即便采取諸多限制措施,目前這個問題依然沒有簡單的解決方案。澳大利亞昆士蘭理工大學(xué)數(shù)字媒體專家蒂莫西·格雷厄姆說:“問題的嚴(yán)重性確實令人擔(dān)憂……過去,制作視頻需要專業(yè)知識,而現(xiàn)在只需幾分鐘就能用AI工具完成。制作以假亂真的視頻幾乎已經(jīng)沒有門檻。而更深層問題在于,以互動為導(dǎo)向的變現(xiàn)機制與準(zhǔn)確信息之間存在根本性矛盾,目前沒有平臺能完全化解這個矛盾,或許永遠(yuǎn)無法化解。”
教你識破AI
今天,隨著AI模型的升級換代,大部分主流模型的生成效果都已經(jīng)非常接近現(xiàn)實,“一眼假”的低級偽造內(nèi)容會越來越少。不過,我們依然可以通過了解一些當(dāng)前AI無法滿足的特性,來識別圖像和視頻的真假。
01
尋找時間和空間上的“裂隙”
雖然如今的AI在細(xì)節(jié)刻畫上已經(jīng)表現(xiàn)得非常完美,但在處理大空間或時間變換問題時依然存在明顯不足。比如AI圖像中,遠(yuǎn)處的建筑和人群會被刻意模糊處理,或處于畫面邊緣的物體會缺失細(xì)節(jié)。而在AI視頻中,時間這個維度是AI目前最大的軟肋。許多AI視頻里的動態(tài)物體可能隨著時間改變外形,或者突然消失。
02
認(rèn)真看細(xì)節(jié)
在添加了參考圖的情況下,AI可以輕松保證外觀的一致性,但在細(xì)節(jié)處理上往往容易疏忽。之前提到的卡-52圖片就是一個例子:多出來的輪胎,消失的光電瞄準(zhǔn)系統(tǒng)……而當(dāng)同一個物體改變角度時,它的細(xì)節(jié)也會被AI“不小心”改變。“解放軍卡-52”這一系列圖片中,飛機的編號位置就在不斷改變。AI也很難理解復(fù)雜的物理連接,比如AI生成的戰(zhàn)斗機視頻里,導(dǎo)彈直接“長”在機翼上。
03
物理規(guī)律上的漏洞
目前,AI很難模擬真實的流體力學(xué)。觀察水滴濺落、燃燒的火焰或濃煙的擴散……AI的能力目前很難模擬出這些元素的質(zhì)感和擴散情況,畫面通常會存在詭異的波動或模糊。此外,AI通常會將物體的質(zhì)量設(shè)定的過于輕盈,無論是人還是坦克看起來都輕飄飄的,有一種貼圖在地面上滑動的感覺。
04
尋找邏輯漏洞
為了創(chuàng)造博人眼球的話題和場面,一些AI圖像或者視頻往往存在一些不合邏輯的問題。比如“美軍航母被擊沉”的報道中,包括企業(yè)級、埃塞克斯級、小鷹級等一眾美軍退役航母“穢土轉(zhuǎn)生”,在波斯灣又挨了一輪導(dǎo)彈。或者一架朝鮮客機出現(xiàn)在韓國機場,插著美國國旗的俄軍坦克等等……
![]()
這張所謂“被打擊前后對比圖”中,兩張圖里一些建筑的位置和造型發(fā)生了改變
![]()
巨型F-35
今天,AI生成的圖像和視頻早已跨越了單純的視覺娛樂,我們急需建立一套個人的“認(rèn)知防火墻”。要記住,最危險的不是AI讓圖像和視頻也能說謊,而是人們失去了對真實的敬畏與追尋。保持警惕,別讓自己成為他人算力下的廉價燃料。
![]()
3月2日,伊朗南部一所小學(xué)遭遇了美軍的空襲,造成了上百名兒童死亡。圖為當(dāng)?shù)貫橛鲭y者挖掘的墳?zāi)梗欢@張圖片卻被許多人認(rèn)為是AI偽造的。
作者/肉鴿鴿
編輯/鄭逸澤
審核/老虎、武瑾媛
戰(zhàn)斗機主題增刊預(yù)售開啟!
5月7日 19-21點
直播五折起售!
78
78
風(fēng)上風(fēng)云|云端故事
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.