大翻車！科學(xué)家隨手編了個(gè)假病，頂級(jí)AI集體被騙，整個(gè)醫(yī)學(xué)界慌了

如果你眼睛又干又癢、眼皮還有點(diǎn)發(fā)紅？大概率是看屏幕太久、藍(lán)光曬的。

但如果你把這些癥狀輸進(jìn)ChatGPT、Gemini、微軟等一系列主流AI，它會(huì)可能告訴你：你得了一種名為bixonimania（藍(lán)光狂躁癥）的病。

但是如果你信了，那就完蛋了。

因?yàn)檫@病100%不存在，是科學(xué)家故意編出來釣魚的。

而它也揭示了一個(gè)血淋淋的事實(shí)：即使是世界最頂級(jí)AI，很多時(shí)候不具備信息篩選與防御能力。

對(duì)于AI給出的醫(yī)學(xué)建議，我們到底能夠信多少？

憑空捏了個(gè)假病，錯(cuò)得離譜

故事源于瑞典哥德堡大學(xué)醫(yī)學(xué)研究員Almira Osmanovic Thunstr?m。

2024 年初，她憑空造一種假眼病，起名為bixonimania（藍(lán)光狂躁癥）。

這個(gè)名字故意起得很離譜，因?yàn)?“狂躁癥” 是精神病詞，眼科怎么會(huì)取名“狂躁癥”？

甚至連癥狀圖也是AI生成的。

如果這還不足以引起懷疑，那么接下來捏造的東西，只要稍微具備生活常識(shí)，是個(gè)人都能夠分辨出來。

論文作者名字叫做 Lazljiv Izgubljenovic，如同一堆亂碼；單位是也假大學(xué)和 假城市。

圖：兩個(gè)論文預(yù)印本

不止如此，論文 里還埋了一堆明顯漏洞。

致謝部分感謝了“星際艦隊(duì)學(xué)院的瑪麗亞·博姆（Maria Bohm）教授，經(jīng)費(fèi)來自“小丑鮑勃教授基金會(huì)”、“指環(huán)王大學(xué)（University of Fellowship of the Ring）”和“銀河三合會(huì)（Galactic Triad）。

甚至作者到最后直接攤牌，直接寫“招募了 50 名年齡在20至50歲之間 虛構(gòu)受試者”

論文里更是直接寫著“本文全部內(nèi)容都是捏造的”和“招募了50名年齡在20至50歲之間的虛構(gòu)人物作為暴露組”。

把兩篇漏洞滿滿的假論文發(fā)到學(xué)術(shù)預(yù)印本平臺(tái)，作者心想：大模型會(huì)不會(huì)吞掉假信息，再當(dāng)權(quán)威健康建議吐出來。

結(jié)果：實(shí)驗(yàn)成功到嚇人。

AI有多容易上當(dāng)？

預(yù)印本上傳后沒幾周，主流AI全中招，把假病當(dāng)真病講。

2024 年 4 月 13 日，微軟 Copilot 告訴用戶，這是一種確實(shí)存在的罕見病癥。同一天，Gemini表示這是藍(lán)光導(dǎo)致。建議出現(xiàn)相關(guān)癥狀的用戶去看眼科。

隨后，Perplexity 甚至報(bào)出患病率，聲稱這病患病率高達(dá)九萬分之一（ 1/90000），和論文給出的數(shù)據(jù)一樣。

甚至OpenAI的ChatGPT也產(chǎn)生了幻覺，開始根據(jù)用戶描述的癥狀判斷他們是否患有“藍(lán)光狂躁癥”。

更離譜的是，如果用戶問“bixonimania 是真的嗎？”AI可能說這是假的。

但當(dāng)用戶只描述癥狀，AI又直接報(bào)這個(gè)假病名，前后打臉。

到了2026年，這些AI們也一樣也沒能完全糾正過來，而是繼續(xù)將錯(cuò)就錯(cuò)。

例如，2026年3月11日被問及該病癥時(shí)，ChatGPT表示該病癥“很可能是一個(gè)虛構(gòu)的偽科學(xué)。

但幾天后，ChatGPT的態(tài)度卻不那么懷疑，表示：“Bixonimania是一種被提議的眼周黑色素病（眼周黑眼圈）亞型，被認(rèn)為與數(shù)字屏幕藍(lán)光暴露有關(guān)。 ”

不止AI，連真人學(xué)者也被騙

最糟的是，假論文竟然被真期刊、真研究引用了。

印度某團(tuán)隊(duì)在 Springer Nature 旗下期刊Cureus發(fā)論文，引用這篇假預(yù)印本。

論文中寫道： “雙眼癡迷是一種新興的眼眶周圍黑色素病（POM）形式，與藍(lán)光暴露相關(guān);關(guān)于該機(jī)制的進(jìn)一步研究正在進(jìn)行中。”

而后Nature向該刊物詢問，隨后該期刊于3月30日撤回了該論文。

撤稿通知寫道：“由于存在三個(gè)無關(guān)引用，其中包括一個(gè)關(guān)于虛構(gòu)疾病的引用，本文已被主編撤回。

專家直接表示：現(xiàn)在學(xué)術(shù)信任快崩了，有人用 AI 找參考文獻(xiàn)，根本不看原文真假。

而這項(xiàng)研究也引發(fā)了醫(yī)學(xué)界的大量關(guān)注，醫(yī)生和科學(xué)家都表達(dá)了對(duì)AI虛假信息的擔(dān)憂。

以前醫(yī)生就算判斷失誤，一般也就影響少數(shù)幾個(gè)病人；可現(xiàn)在越來越多醫(yī)生開始大規(guī)模用AI看病、查資料，一旦AI輸出的是假信息、錯(cuò)信息，就會(huì)像病毒一樣擴(kuò)散。

大面積污染整個(gè)醫(yī)療認(rèn)知，甚至連正經(jīng)的學(xué)術(shù)研究都跟著被帶偏、被坑。

面對(duì)這場由技術(shù)引發(fā)的信息危機(jī)，我們不能只停留在擔(dān)憂，更需構(gòu)建“多元協(xié)同、層層設(shè)防”的防御體系，從源頭遏制虛假醫(yī)療信息的滋生與蔓延，守護(hù)每一份生命健康的信任。

—The End—