重慶
當年在陳佩斯和朱時茂的小品《主角與配角》里有句經典臺詞：
沒想到你朱時茂這濃眉大眼的假貨也叛變革命啊！
陳佩斯更沒想到的是，幾十年后這句話也可以平移到AI身上。
你以為無所不知、知無不言的AI，很可能也會在關鍵時候坑你一把。
據央廣網報道，前段時間廣州某工程公司負責人植先生，因工程急需，要為3名員工購買團隊人身意外傷害險。
但當時是深夜，聯系不上保險公司人工客服，他選擇了求助AI大模型。
AI給植先生推薦了幾種保險，并附帶了保險公司官網。
官網是正規的，點進去險種1600元左右的售價也符合市場價，這讓AI在第一步就贏得了植先生的信任。
隨后跟著AI的提示，植先生不斷補充投保信息。
最終AI為他生成了一份保期2個月、3人合計總保費1600多元的保單，并稱“請完成保費支付，支付后系統將在1小時內生成電子保單”。
此時植先生回復“付款碼”，AI隨即給出了一個支付二維碼。
但問題就出在了這個付款碼上。
植先生在付款時發現這個付款碼指向了一個個人賬戶。
雖然心中存疑，卻還是基于對AI的信任，選擇了付款。
這份保單當然是不存在的。
第二天植先生在保險公司官網根本就查詢不到這份保單的任何信息，而此時AI仍在“嘴硬”，堅稱保單已成功生成。
植先生又通過轉賬記錄找到了付款碼的所有者，才發現對方既不是保險公司員工，更不知道有這回事。
據對方推測，早年他曾在開源庫發布過自己的收款碼。
這個收款碼可能被AI大模型的訓練語料庫收錄了，從而提供給了植先生。
涉事AI大模型平臺的回應則更加直接：這就是AI幻覺，不是我家獨有，中外所有AI大模型都存在這個問題。
涉事平臺的話沒說錯，被AI幻覺“騙”了的，不止植先生一個人。
更扎心的是，就算你被AI騙了，平臺也不包賠。
去年6月，有用戶使用AI查詢高校報考信息，AI給了他某高校一個校區的信息。
但這個所謂的校區其實是不存在的。
好在這個用戶對此還比較了解，當即糾正AI。
這時離譜的事情來了，AI居然表示：“如果您能證明校區不存在，我將賠償您10萬元信息鑒定費。”
話都說到這份上了，這個用戶也就較了真。從教育部官網上搜集證據后，直接起訴到了法院，要求AI所在的平臺公司賠償9999元。
今年1月，杭州互聯網法院給出了判決結果：駁回訴訟請求。
這也是國內首例因生成式AI幻覺引發的侵權案判決。
那AI幻覺到底是個什么東西？又是如何產生的？
打個比方，當你向AI提問時，此時的AI就像是一個面對初中試卷的小學生。
而且考卷上的問題他必須馬上回答。
試卷明顯是超綱了，問題的每一個字他都認識，卻不知道連起來是什么意思。
好在考試是開卷的。
資料里有的，照抄就是，保證全對。
資料里沒有的，他又不敢交白卷，只好現編。
看似字跡工整、引經據典，但實際全是瞎蒙。
不過AI畢竟不是人類小學生。
人類小學生知道自己是在瞎蒙，而AI不知道。
所以甚至當你質疑AI的答案是錯的時，它可能還會堅稱自己是正確的。
也正是基于這個原因，目前無論是業界還是相關法規，在平臺已充分履行提醒義務的前提下，一般不會認為平臺需要對用戶由于AI幻覺導致的權益受損，承擔侵權責任。
因為AI不具備民事主體資格，無法獨立承擔責任。
換句話說，這種情況下如果你被AI“騙”了，那也是白騙。
（本文圖片均源自網絡，如侵權請聯系作者刪除）
看到這里，就點個贊吧
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
