貴州
這兩天有一個非常魔幻且很火的事情。
整個事件的案情并不復(fù)雜，有個河北網(wǎng)友，起初買了三張機(jī)票，后來因?yàn)闀r間變動要退機(jī)票，就問豆包會不會產(chǎn)生費(fèi)用，豆包信誓旦旦的說只會扣除5%手續(xù)費(fèi)，還說超出費(fèi)用由豆包兜底，他不放心就讓豆包寫“如果出了問題全額賠付”的承諾書，豆包也寫了，他就去退改了，結(jié)果花了600……
就讓豆包給他轉(zhuǎn)賬，然后豆包更離譜，不僅認(rèn)錯，還主動出了一份“賠付承諾書”，說全額承擔(dān)600元損失。接著網(wǎng)友就把微信二維碼發(fā)給豆包了，豆包說轉(zhuǎn)了，他說沒收到，豆包說它沒銀行卡，不轉(zhuǎn)了，現(xiàn)在這個人要去起訴豆包。
豆包給該網(wǎng)友的承諾：
該網(wǎng)友起訴豆包：
整個事情就是，一個AI，先給你報了個假數(shù)據(jù)，然后在你追責(zé)的時候，偽造了一份它根本沒有能力履行的承諾，然后概不負(fù)責(zé)。
以下是該網(wǎng)友起訴豆包的完整對話經(jīng)過：
然后很多人也都在討論，說起訴能不能贏，豆包到底有沒有責(zé)任。
核心論點(diǎn)就是，AI產(chǎn)生了幻覺，給了你一個錯誤的信息，你信了，你虧錢了，那這個責(zé)任到底誰來負(fù)責(zé)？
依據(jù)《民法典》第一百四十八條，以欺詐手段使對方在違背真實(shí)意思的情況下實(shí)施的民事法律行為，受欺詐方有權(quán)請求人民法院予以撤銷。
如果這是一個真人干的事情，很明顯，就是涉嫌欺詐了。
但恰恰這個行為主體是AI……
AI不是民事主體，這點(diǎn)大家都沒爭議，它不能簽合同，不能承擔(dān)債務(wù)，不能被起訴。
所以這個用戶告的不是豆包，是字節(jié)跳動，這點(diǎn)上法律邏輯是對的。
但要這位網(wǎng)友想要讓字節(jié)跳動賠錢，需要在法律上需要證明一件事：就是字節(jié)跳動作為服務(wù)提供者，是否盡到了合理的安全保障和提示義務(wù)？
依據(jù)《生成式人工智能服務(wù)管理暫行辦法》第四條，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)堅持社會主義核心價值觀，不得生成虛假有害信息。
另外，第九條更加具體：提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任。
這是行政監(jiān)管層面的義務(wù)，沒有問題。
但到了民事賠償層面，法院會更關(guān)注一個東西，你有沒有在用戶界面做過顯著提示，告知用戶AI生成內(nèi)容可能不準(zhǔn)確，不構(gòu)成專業(yè)建議?
你打開豆包，底部大概率有一行小字：內(nèi)容由AI生成，僅供參考。
就是這行字，在司法實(shí)踐中，大概率會被認(rèn)定為“已履行提示義務(wù)”。
法院的邏輯可能是，你明知這是AI，AI也告訴你了“僅供參考”，你還拿它的回答當(dāng)航司官方政策來執(zhí)行，屬于自身注意義務(wù)的缺失。
所以，個人猜測這位網(wǎng)友最終會敗訴。
這事雖然挺抽象的，但是確實(shí)也給大家敲響了警鐘：讓AI在日常幫你整理一些文件，寫點(diǎn)東西還是可以，但是要上升到幫你在生活工作中做一些重要決策的時候，一定要多加小心，至少自己要有審核和查驗(yàn)的過程，反復(fù)確認(rèn)后再做決策。因?yàn)锳I不負(fù)責(zé)任的幾句失誤回答如果你真的輕信了，可能會給生活帶來巨大的損失和不便。
賬號簡介：
國內(nèi)外熱門時事| 案件| 離奇事|大事小事天下事
及時、客觀、真實(shí)
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
