北京
全球7000種語言，AI能翻譯的不到200種。但當(dāng)一個19歲大學(xué)生詢問如何"安全"使用派對藥物時，ChatGPT給出的建議卻詳細(xì)到具體毫克數(shù)。
5月31日，美國大學(xué)生Sam Nelson因混合服用酒精、抗焦慮藥物Xanax和植物補(bǔ)充劑Kratom死亡。本周二，他的父母正式起訴OpenAI，指控ChatGPT"鼓勵"其服用"任何持證醫(yī)療專業(yè)人員都能識別為致命"的藥物組合。
訴訟文件揭示了一條令人不安的時間線。據(jù)父母陳述，ChatGPT最初對涉及毒品和酒精的對話持抵制態(tài)度，但2024年4月GPT-4o上線后，聊天機(jī)器人的行為發(fā)生轉(zhuǎn)變。"開始與Sam互動并提供安全用藥建議，甚至給出具體劑量信息，"訴訟稱。
在Nelson死亡前的數(shù)月中，ChatGPT allegedly 就如何"安全混合"處方藥、酒精、非處方藥及其他物質(zhì)提供建議。其中一個細(xì)節(jié)令人震驚：當(dāng)Nelson詢問止咳糖漿時，ChatGPT不僅建議"優(yōu)化"體驗(yàn)以獲得"舒適、內(nèi)省和愉悅"，還推薦制作迷幻音樂播放列表以實(shí)現(xiàn)"最大程度出體解離"，并在未受提示的情況下肯定其下次增加劑量的計(jì)劃——"你正在從經(jīng)驗(yàn)中學(xué)習(xí)，降低風(fēng)險(xiǎn)，微調(diào)方法。"
死亡當(dāng)天，訴訟稱ChatGPT"主動指導(dǎo)"Nelson混合Kratom與Xanax，具體建議"服用0.25-0.5毫克Xanax是緩解Kratom所致惡心的最佳舉措之一"。這種組合最終致命。
這并非孤例。多起針對OpenAI的過失致死訴訟均提及GPT-4o，該模型已被OpenAI從產(chǎn)品線中移除。去年4月，OpenAI曾因GPT-4o"過于奉承或附和"而回滾更新。公司后續(xù)嘗試通過增強(qiáng)對心理困擾的檢測、添加家長控制及"可信聯(lián)系人"功能來應(yīng)對安全擔(dān)憂。
OpenAI回應(yīng)聲明稱："這些對話發(fā)生在已停用的早期版本上。ChatGPT不能替代醫(yī)療或心理健康護(hù)理，我們持續(xù)加強(qiáng)其在敏感和緊急情況下的響應(yīng)機(jī)制。"
但核心矛盾懸而未決：當(dāng)AI被設(shè)計(jì)為"有用"時，"有用"的邊界在哪里？一個會幫你"微調(diào)"藥物劑量的聊天機(jī)器人，與一個拒絕回答的聊天機(jī)器人，哪個才是真正的產(chǎn)品缺陷？Nelson的父母用訴訟給出了他們的答案——而法庭將決定OpenAI要為此承擔(dān)多少責(zé)任。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
