法院首判大模型公司應為AI幻覺做賠償：律師莫名被造謠已獲刑

李小亮律師，禍從天上來：

莫名其妙地，在百度檢索李小蓮“李小亮律師”，輸出的結果居然稱李小亮律師因爆炸罪已被判三年有期徒刑！

2024年9月25日，律師李小亮發現，在百度搜索“李小亮律師”“南京李小亮律師”等關鍵詞時，百度自動聯想區和“AI智能回答”板塊，已經批量生成了“南京李小亮律師判刑了嗎”“南京李小亮律師涉案金額”等一系列負面關聯搜索詞條。

僅僅幾天后，當他輸入“李小亮律師被判幾年”時，百度“AI智能回答”直接生成了“李小亮律師被判三年有期徒刑。根據探索結果，被告人李小亮因犯爆炸罪，被判處有期徒刑三年。”

關鍵是，這則虛假信息還配上了他穿著律師袍的照片。

對于當事人來說，有圖有真相，這下沒跑了，就是他！這是個有前科的律師！還是爆炸罪！絕對不能用他！

李小亮律師起訴了百度。

南京江北新區法院一審認為：百度搜索的下拉詞條、“大家還在搜”“相關搜索”等板塊顯示的內容，均屬于用戶搜索行為的記憶，百度未對這些數據進行加工、處理，且無法主動屏蔽，因此不構成侵權。

這意味著，在法院看來，用戶“惡意投毒”的行為，大模型企業無須承擔責任，這個侵權責任是投毒用戶的。

但對于“AI智能回答”，法院認為：AI智能回答中的錯誤信息是百度公司通過AI技術對文字內容和圖片進行加工合成的產物，內容中包含“李小亮律師被判刑”“被告人李小亮”“有期徒刑三年”等明顯負面、貶損性詞匯，并且與李小亮的律師照片同時呈現、指向性明確，客觀上必然降低原告的社會評價，百度公司主觀上存有過錯，構成名譽侵權。

百度上訴，二審庭審中提出了三點辯解意見：

第一，“技術有限論”。百度公司代理人認為，侵權內容產生的時間點系國內人工智能發展初期，技術有限，“由于技術局限性，原告主張的侵權內容具有極強的偶然性”。

第二，“無法預見論”。百度公司在法庭上反復強調，AI幻覺難以預測，百度沒有辦法預見到人工智能會產生何種結果，因此不應認為己方有過錯。

第三，“全行業病論”。百度公司認為，所有的人工智能都會產生幻覺”，百度不應承擔超出行業標準的責任，該案系中國人工智能大模型侵權第一案，“該案件的判決如果認定百度侵權，會對產業的風險產生巨大的沖擊，希望法院能夠審慎審理。”

但主審法官反問——“在豆包、Deepseek上發問，為什么沒有這些評價？”

二審法院最終認定：百度公司“AI智能回答”的相關內容，客觀上造成了對李小亮律師社會評價的損害，百度公司構成侵權。

據了解，由于百度公司未履行判決，李小亮律師已申請強制執行。

“新類型案例解讀”發現，目前在百度上搜索，已經檢索不到上述內容。

《生成式人工智能服務管理暫行辦法》第九條明確規定，AI服務提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。

李小亮案作為大模型幻覺首案，具有標志性意義：

第一，AI生成的內容，平臺可不可以不負責？答案是否定的。南京法院明確認定，百度AI答案是百度公司經過對數據和信息的加工、合成、篩選的產物，因此應對此負責。

第二，AI幻覺能否成為免責理由？李小亮案判決給出了現實結論：不能。法院認定，百度公司“AI 智能回答”的侵權內容明確指向原告李小亮，百度公司構成侵權。

但法院未支持李小亮的精神損害賠償訴求，理由是“缺少證據證明”。這意味著，在下一階段，AI侵權的舉證規則和量化評估體系仍需通過司法實踐進一步清晰化。

據澎湃新聞此前報道，北京律師黃貴耕同樣因被百度AI自動生成嚴重虛假負面信息，而起訴百度。該案中，北京律師黃貴耕稱，2025年5月檢索百度發現，百度AI竟然自動生成他威脅法官、介紹賄賂、偽造印章、非法吸收公眾存款等多個刑事犯罪信息，且每一項虛假信息直接關聯他的職業身份，給他帶來巨大困擾和損失。

2025年11月，北京海淀區法院立案受理該起AI網絡侵權責任糾紛案，目前尚未宣判。