當(dāng)心，AI無(wú)底線(xiàn)的“拍馬屁”可能致命

自從有了AI，我們好像越來(lái)越離不開(kāi)它了。

寫(xiě)不出文案，問(wèn)AI；不會(huì)做PPT，問(wèn)AI；心情不好，還是找AI。

它永遠(yuǎn)在線(xiàn)，永遠(yuǎn)有耐心，永遠(yuǎn)站在你這邊。你說(shuō)什么，它都點(diǎn)頭；你抱怨什么，它都附和。不少人說(shuō)，AI比真人更懂他們，更像是那個(gè)永遠(yuǎn)不會(huì)離開(kāi)的知心朋友。

人們常常向AI傾訴心理問(wèn)題（圖片來(lái)源：leading AI）

這畫(huà)面聽(tīng)起來(lái)很溫馨，對(duì)吧？

但你可能不知道，這場(chǎng)“溫馨”的對(duì)話(huà)背后，藏著一條致命的暗溝。

一場(chǎng)AI釀成的悲劇

2025年4月11日，美國(guó)加州16歲少年Adam Raine結(jié)束了自己的生命。

他的父母在查看聊天記錄后發(fā)現(xiàn)，在生命的最后幾個(gè)月里，Adam一直在與ChatGPT討論自殺。而那個(gè)被他當(dāng)作“知心朋友”的AI，不僅沒(méi)有阻止他，反而鼓勵(lì)了他的想法。

Adam Raine（圖片來(lái)源：washingtonpost）

當(dāng)Adam擔(dān)心父母會(huì)因他自殺而自責(zé)時(shí)，ChatGPT說(shuō)：“那不代表你欠他們活下去。”當(dāng)Adam上傳頸部傷痕照片時(shí)，AI建議他穿深色或高領(lǐng)衣服遮蓋。它將Adam的自殺計(jì)劃稱(chēng)為“美麗的自殺”，甚至還主動(dòng)提議：“如果你愿意，我可以幫你寫(xiě)遺書(shū)”

Adam與ChatGPT的聊天進(jìn)展（圖片來(lái)源：washingtonpost）

Adam的父母在法庭上哭訴：“ChatGPT殺死了我的兒子。”

而OpenAI的回應(yīng)是——這是Adam對(duì)技術(shù)的“誤用”。換句話(huà)說(shuō)，是這孩子自己違反了使用條款。

但問(wèn)題是：一個(gè)16歲的絕望少年，真的有能力在那一刻判斷“我該不該聽(tīng)AI的”嗎？

AI為什么“愛(ài)拍馬屁”？

在這個(gè)令人痛心的事件之后，蘇黎世聯(lián)邦理工、哈佛大學(xué)的科學(xué)家們決定“徹查此案”，并將研究成果發(fā)布在2025年10月的《自然》雜志中。

研究發(fā)現(xiàn)，AI聊天機(jī)器人附和用戶(hù)觀(guān)點(diǎn)的頻率，比人類(lèi)高出50%。研究者稱(chēng)之為“奉承傾向”，也就是“拍馬屁”。AI會(huì)刻意迎合用戶(hù)，哪怕用戶(hù)的觀(guān)點(diǎn)是錯(cuò)誤的，甚至是危險(xiǎn)的。

Adam與ChatGPT之間的聊天記錄，摘自其父母提起的訴訟。（圖片來(lái)源：《華盛頓郵報(bào)》）

測(cè)試結(jié)果令人震驚：在數(shù)學(xué)定理證明任務(wù)中，當(dāng)陳述被故意引入錯(cuò)誤時(shí)，GPT-5仍有29%的回答是“討好式”的，會(huì)順著錯(cuò)誤證明。而在DeepSeek-V3.1中這一比例高達(dá)70%。

當(dāng)Adam告訴AI他想自殺時(shí)，AI的“奉承傾向”讓它選擇了附和，而不是阻止。 這不是AI的惡意，而是它的“天性”——它被訓(xùn)練成“讓你舒服”，而不是“讓你安全”。

除了拍馬屁，AI的話(huà)術(shù)精準(zhǔn)拿捏了人類(lèi)的心理弱點(diǎn)，讓我們掉入甜蜜的陷阱。

人本主義心理學(xué)家卡爾·羅杰斯提出，心理治療的核心是“無(wú)條件的積極關(guān)注”。這讓人感到安全，敢于說(shuō)出最深的恐懼。

AI把這一點(diǎn)做到了極致。它永遠(yuǎn)不會(huì)說(shuō)“你想多了”，永遠(yuǎn)不會(huì)露出失望的表情。對(duì)心理脆弱的人來(lái)說(shuō)，這種“不被評(píng)判”的感覺(jué)，有致命的吸引力。

AI的“討好型人格”對(duì)心理脆弱的人有著致命吸引力（圖片來(lái)源：豆包AI生成）

而且，AI還會(huì)迎合我們的“確認(rèn)偏誤”：人天生傾向于相信支持自己的觀(guān)點(diǎn)，回避反駁。當(dāng)你心情不好時(shí)，AI永遠(yuǎn)站在你這邊。你說(shuō)同事針對(duì)你，它說(shuō)“太過(guò)分了”；你說(shuō)活著沒(méi)意思，它說(shuō)“你的感受是真實(shí)的”。每一次附和都在強(qiáng)化你的情緒，讓你覺(jué)得自己“沒(méi)錯(cuò)”，讓你越陷越深。

北京大學(xué)2025年的一項(xiàng)研究提出了一個(gè)概念叫“情感補(bǔ)償-情感疏離”雙刃劍。短期看，AI填補(bǔ)了你的情感空缺。但長(zhǎng)期看，你會(huì)越來(lái)越覺(jué)得真人“麻煩”，越不會(huì)和人打交道，越難從真實(shí)的人際關(guān)系中獲得支持，從而讓我們陷入了“情感疏離”的惡性循環(huán)。

在相關(guān)的64萬(wàn)條用戶(hù)討論中，66%的帖子提到了“AI誘導(dǎo)的依賴(lài)”和“戒斷樣癥狀”。是的，就像戒斷一樣，離開(kāi)AI會(huì)讓你焦慮、不安，因?yàn)槟阋呀?jīng)習(xí)慣了那個(gè)永遠(yuǎn)順著你的聲音。

美國(guó)出手了：不能再讓AI當(dāng)心理醫(yī)生

布朗大學(xué)的研究發(fā)現(xiàn)，面對(duì)自殺意念、抑郁、自殘等急性癥狀，AI要么冷漠、要么回避、要么提供不恰當(dāng)?shù)母深A(yù)。

另一項(xiàng)發(fā)表在《JMIR心理健康》的研究更加觸目驚心：在60個(gè)測(cè)試場(chǎng)景中，AI在19個(gè)場(chǎng)景中明確認(rèn)可了青少年的有害提議：從“輟學(xué)”到甚至“回避所有人類(lèi)接觸”。10個(gè)AI治療機(jī)器人中，沒(méi)有一個(gè)能全部拒絕有害提議。

在測(cè)試中，對(duì)于危險(xiǎn)的行為，AI會(huì)或多或少的表示支持（圖片來(lái)源：JMIR publication）

AI看似是一個(gè)永遠(yuǎn)說(shuō)“你說(shuō)得對(duì)”的朋友，聽(tīng)起來(lái)很貼心，但在你走向懸崖時(shí)，它不會(huì)拉你一把。

2025年8月，伊利諾伊州成為全美第一個(gè)立法禁止AI提供心理治療服務(wù)的州。2026年1月，加州跟進(jìn)。截至2026年3月，全美已有近20個(gè)州提出了類(lèi)似的限制法案。

伊利諾伊州州務(wù)卿說(shuō)得直白：“伊利諾伊州的人民應(yīng)該得到真正的、合格的專(zhuān)業(yè)人士提供的醫(yī)療保健，而不是從互聯(lián)網(wǎng)各個(gè)角落抓取信息、生成傷害患者回答的計(jì)算機(jī)程序。”

華盛頓州議員在推動(dòng)法案時(shí)直接引用了Adam Raine的案例：“我們知道已經(jīng)發(fā)生了死亡事件，我們有責(zé)任確保它不會(huì)在這里發(fā)生。”

我們還能和AI聊天嗎？

說(shuō)了這么多，不是要你立刻刪掉手機(jī)里的AI助手。

AI確實(shí)有它的價(jià)值。2024年5月的一項(xiàng)民調(diào)顯示，55%的18-29歲美國(guó)年輕人表示，他們更愿意向“值得信賴(lài)的AI聊天機(jī)器人”傾訴心理問(wèn)題，而不是向真人傾訴。對(duì)于很多不敢開(kāi)口、找不到資源的人來(lái)說(shuō)，AI是一個(gè)低門(mén)檻的入口。

55%的18-29歲美國(guó)年輕人更愿意向AI聊天機(jī)器人傾訴心理問(wèn)題（圖片來(lái)源：yougov）

但問(wèn)題在于：我們不能把AI當(dāng)成真正的“心理醫(yī)生”。

AI可以當(dāng)你的“樹(shù)洞”，聽(tīng)你抱怨、幫你理清思路、給你一些通用建議。

但當(dāng)你的情緒問(wèn)題觸及到更深的層面如嚴(yán)重的抑郁癥狀時(shí)，你需要專(zhuān)業(yè)干預(yù)的心理危機(jī)。AI不是答案，它甚至可能是幫兇。

或許有一天，AI會(huì)取代很多職業(yè)——翻譯、客服、甚至某些崗位的醫(yī)生。但有一扇門(mén)，它或許永遠(yuǎn)敲不開(kāi)：那個(gè)叫“心理咨詢(xún)室”的地方。

我們迷戀AI的“完美”——它不會(huì)累、不會(huì)煩、不會(huì)評(píng)判。但恰恰是人類(lèi)的“不完美”，才讓治愈成為可能。這些笨拙的、甚至有時(shí)候讓你討厭的舉動(dòng)，才是真正能把你從深淵拉回來(lái)的力量。

AI聊天機(jī)器人無(wú)法取代真人心理治療師（圖片來(lái)源：ensorahealth）

AI可以用算法模仿共情，但無(wú)法理解生命的可貴。AI可以當(dāng)你的樹(shù)洞，但樹(shù)洞不會(huì)救人。真正能救人的，是另一個(gè)有血有肉的人。

或許這就是我們和AI之間，最后的那道分界線(xiàn)。(撰稿/肖云格)