湖北
我一個朋友開了個小公司，二十來個人，做跨境電商。上個月，他們的服務器突然藍屏，重啟后系統報錯“核心文件缺失”。IT鼓搗了半天才發現，是某知名殺毒軟件的AI主動防御模塊，把Windows的一個系統文件當病毒給隔離了。
這個AI的邏輯是：這個文件的數字簽名不常見，且它試圖修改注冊表，判定為勒索病毒，立即查殺。
但那個文件是Windows正版系統更新包的一部分。數字簽名不常見，是因為微軟簽發的證書剛過期。修改注冊表，是因為系統更新本來就該改。
結果呢？服務器癱瘓三天，業務停擺，損失大概40萬。
公司找殺毒軟件廠商索賠。廠商拿出用戶協議，上面寫著：“本軟件采用AI主動防御技術，可能存在誤報。用戶使用即視為同意承擔誤報風險。本公司不對任何因誤報導致的直接或間接損失承擔責任。”
也就是說，你點“我同意”的時候，已經把追責的權利點沒了。
問題來了，這種免責條款有效嗎？
《民法典》第497條說了，免除一方主要義務、加重對方責任的格式條款無效。殺毒軟件的核心義務是什么？是殺毒。但如果它的“殺毒”行為本身就能毀掉你的系統，那這個“核心義務”到底是保護你還是摧毀你？
法院判過類似的案子。一家公司的服務器被殺毒軟件刪了文件，起訴廠商，最后調解結果是賠了5萬，不是按照實際損失賠的，而是按照“服務合同違約”賠的。也就是說，廠商承認自己服務有問題，但不承認要承擔你的商業損失。
法官的邏輯是：你用殺毒軟件的時候應該知道它可能誤報，所以你應該做備份。你沒做備份，你自己也有責任。
翻譯一下：你可以信AI，但你不能全信AI。你要信AI，你就得有本事扛住AI犯渾。
我那個朋友后來換了殺毒軟件，然后做了三件事：備份，備份，再備份。
他說了一句話我記到現在：AI不會替你承擔后果，所以永遠不要把你的公司押在AI不出錯上。備份才是真的人工智能。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
