十張圖片九張假！你認(rèn)得出哪張是AI圖嗎？

近幾日，幾張圖片出現(xiàn)在互聯(lián)網(wǎng)上。圖中是一架采用解放軍深綠色迷彩卡-52直升機，背景還能看到某處基地的建筑。許多人以這幾張圖片作為陸軍航空兵已經(jīng)開始接收卡-52的證據(jù)并大肆傳播。不過部分網(wǎng)友經(jīng)過仔細(xì)觀察，發(fā)現(xiàn)這幾張圖無一例外是由AI生成的虛假圖片。

所謂陸軍航空兵卡-52照片

在這幾張圖片中，最“具備說服力”的就是這張。乍一看，這張圖包含了照相機和屏幕上顯示的參數(shù)和設(shè)置，似乎是當(dāng)事人直接用手機拍攝相機屏幕，給人一種非常真實的感覺。可實際上，這張圖包含大量漏洞。這架卡-52在起落架放下的狀態(tài)時，起落架艙內(nèi)依然還能看見輪胎，它的光電瞄準(zhǔn)系統(tǒng)也直接“失蹤”……更重要的是，右上角顯示的相機電量還有68%，但旁邊可視化的剩余電量已經(jīng)掉到了最后一格，明顯矛盾。很顯然，這都是AI在生成圖片時，出現(xiàn)的失真情況。但不可否認(rèn)的是，這張圖的大部分細(xì)節(jié)都很完善，整體光影效果也幾乎可以做到以假亂真，如果不仔細(xì)觀察，確實很難發(fā)現(xiàn)破綻。

事實上，這樣AI生成的虛假圖像在近些年的互聯(lián)網(wǎng)上層出不窮，軍情戰(zhàn)報領(lǐng)域更是重災(zāi)區(qū)。在中東地區(qū)的大小沖突中，AI生成的圖像和視頻幾乎占領(lǐng)了互聯(lián)網(wǎng)。一些社交平臺的管理人員曾抱怨說，在“史詩憤怒”行動開始后的幾天里，平臺上超過90%的“戰(zhàn)況”都是由AI生成的。這其中有些是出現(xiàn)比例失調(diào)或“六指類人”等元素的低劣偽造，有些卻精心偽裝，外行人難辨真假，內(nèi)行人需要反復(fù)觀察才能發(fā)現(xiàn)破綻。偽造者反復(fù)調(diào)試AI模型生成虛假的內(nèi)容，抹去水印投放在互聯(lián)網(wǎng)上，再經(jīng)由一些媒體或個人有意無意地轉(zhuǎn)發(fā)，這些虛假的圖片和視頻就會如病毒般擴散。

一些AI生成的圖片（娛樂向）：

馬杜羅抓捕美軍

加裝防護(hù)網(wǎng)的卡-52

解放軍的高達(dá)

伊朗“飛毯空軍”

由AI制作的虛假圖像和視頻種類繁多，但是有關(guān)軍事的內(nèi)容卻總會引起更多的熱議，這其實是偽造者利用了軍事圖像稀缺性的特點。以中東局勢為例，過去沖突地區(qū)往往高度封閉且信息受控，外界往往需要等待數(shù)個小時甚至數(shù)天時間才能得到現(xiàn)場圖像或視頻。這些沖突也總能成為國際熱點，引發(fā)媒體和群眾的關(guān)注，帶來對視覺證據(jù)的強烈渴求。畢竟總是說“眼見為實”，有照片有視頻似乎就能成為鑒定真?zhèn)蔚摹敖^對證據(jù)”。而在AI軟件出現(xiàn)后，圖片和視頻的造假成本被顯著降低，真實度較高的圖片或短視頻，通常只需要輸入關(guān)鍵詞就能生成，且耗時只有幾分鐘甚至幾秒鐘。于是，一些人出于對流量的追求，開始用AI生成虛假的圖片和視頻，達(dá)到博人眼球的目的。而危害性更大的，是一些勢力開始將AI作為認(rèn)知作戰(zhàn)的“廉價彈藥”，對公眾進(jìn)行刻意的誤導(dǎo)。

需要引起警惕的是，AI生成內(nèi)容帶來的問題不再局限于普通社交媒體用戶被誤導(dǎo)，其甚至已經(jīng)挑戰(zhàn)了專業(yè)新聞編輯的核查能力。互聯(lián)網(wǎng)上的軍情信息也不再追求真實和客觀，被海量的視覺奇觀所掩蓋。在過去的幾個月里，無論美國、以色列還是伊朗都在從官方層面發(fā)布大量AI偽造的圖像和視頻，一場由AI生成的輿論戰(zhàn)正在互聯(lián)網(wǎng)上展開。這不僅會導(dǎo)致群眾受到誤導(dǎo)，也會讓一些原本真實的內(nèi)容被打上AI的標(biāo)簽，最終反而導(dǎo)致真相被虛假信息掩蓋。

各種林肯號被擊沉的圖像

AI生成的伊朗俘虜美軍飛行員

被德州州長阿博特轉(zhuǎn)發(fā)的AI生成圖片

網(wǎng)傳內(nèi)塔尼亞胡被炸死后，為了證明自己沒有死，曾經(jīng)上傳過一段視頻表明自己仍然活著。但網(wǎng)友發(fā)現(xiàn)視頻中存在許多破綻，認(rèn)為這段視頻是AI生成的！

當(dāng)然，AI軟件和社交平臺也在采取措施限制AI圖像和視頻的生成和傳播。目前最主流的手段，是在圖像和視頻內(nèi)加入肉眼不可見的水印，社交平臺也會掃描這些文件，識別隱藏的水印或檢測AI特征，自動加入“AI生成”的提示標(biāo)簽。一些社交平臺也計劃修改AI作品的推送機制和利潤標(biāo)準(zhǔn)，“勸退”試圖用AI生成虛假內(nèi)容進(jìn)行斂財?shù)耐稒C者。當(dāng)然，專家表示即便采取諸多限制措施，目前這個問題依然沒有簡單的解決方案。澳大利亞昆士蘭理工大學(xué)數(shù)字媒體專家蒂莫西·格雷厄姆說：“問題的嚴(yán)重性確實令人擔(dān)憂……過去，制作視頻需要專業(yè)知識，而現(xiàn)在只需幾分鐘就能用AI工具完成。制作以假亂真的視頻幾乎已經(jīng)沒有門檻。而更深層問題在于，以互動為導(dǎo)向的變現(xiàn)機制與準(zhǔn)確信息之間存在根本性矛盾，目前沒有平臺能完全化解這個矛盾，或許永遠(yuǎn)無法化解。”

教你識破AI

今天，隨著AI模型的升級換代，大部分主流模型的生成效果都已經(jīng)非常接近現(xiàn)實，“一眼假”的低級偽造內(nèi)容會越來越少。不過，我們依然可以通過了解一些當(dāng)前AI無法滿足的特性，來識別圖像和視頻的真假。

01

尋找時間和空間上的“裂隙”

雖然如今的AI在細(xì)節(jié)刻畫上已經(jīng)表現(xiàn)得非常完美，但在處理大空間或時間變換問題時依然存在明顯不足。比如AI圖像中，遠(yuǎn)處的建筑和人群會被刻意模糊處理，或處于畫面邊緣的物體會缺失細(xì)節(jié)。而在AI視頻中，時間這個維度是AI目前最大的軟肋。許多AI視頻里的動態(tài)物體可能隨著時間改變外形，或者突然消失。

02

認(rèn)真看細(xì)節(jié)

在添加了參考圖的情況下，AI可以輕松保證外觀的一致性，但在細(xì)節(jié)處理上往往容易疏忽。之前提到的卡-52圖片就是一個例子：多出來的輪胎，消失的光電瞄準(zhǔn)系統(tǒng)……而當(dāng)同一個物體改變角度時，它的細(xì)節(jié)也會被AI“不小心”改變。“解放軍卡-52”這一系列圖片中，飛機的編號位置就在不斷改變。AI也很難理解復(fù)雜的物理連接，比如AI生成的戰(zhàn)斗機視頻里，導(dǎo)彈直接“長”在機翼上。

03

物理規(guī)律上的漏洞

目前，AI很難模擬真實的流體力學(xué)。觀察水滴濺落、燃燒的火焰或濃煙的擴散……AI的能力目前很難模擬出這些元素的質(zhì)感和擴散情況，畫面通常會存在詭異的波動或模糊。此外，AI通常會將物體的質(zhì)量設(shè)定的過于輕盈，無論是人還是坦克看起來都輕飄飄的，有一種貼圖在地面上滑動的感覺。

04

尋找邏輯漏洞

為了創(chuàng)造博人眼球的話題和場面，一些AI圖像或者視頻往往存在一些不合邏輯的問題。比如“美軍航母被擊沉”的報道中，包括企業(yè)級、埃塞克斯級、小鷹級等一眾美軍退役航母“穢土轉(zhuǎn)生”，在波斯灣又挨了一輪導(dǎo)彈。或者一架朝鮮客機出現(xiàn)在韓國機場，插著美國國旗的俄軍坦克等等……

這張所謂“被打擊前后對比圖”中，兩張圖里一些建筑的位置和造型發(fā)生了改變

巨型F-35

今天，AI生成的圖像和視頻早已跨越了單純的視覺娛樂，我們急需建立一套個人的“認(rèn)知防火墻”。要記住，最危險的不是AI讓圖像和視頻也能說謊，而是人們失去了對真實的敬畏與追尋。保持警惕，別讓自己成為他人算力下的廉價燃料。

3月2日，伊朗南部一所小學(xué)遭遇了美軍的空襲，造成了上百名兒童死亡。圖為當(dāng)?shù)貫橛鲭y者挖掘的墳?zāi)梗欢@張圖片卻被許多人認(rèn)為是AI偽造的。

作者/肉鴿鴿

編輯/鄭逸澤

審核/老虎、武瑾媛

戰(zhàn)斗機主題增刊預(yù)售開啟！

5月7日 19-21點

直播五折起售！

78

78

風(fēng)上風(fēng)云｜云端故事