黑客用AI破解了我的支付密碼，銀行說“怪你自己”

去年，深圳一個程序員，銀行卡里的86萬被人分20筆轉(zhuǎn)走。他沒有收到任何驗證碼，手機(jī)也沒有任何異常。他報了警，反詐中心一查，發(fā)現(xiàn)騙子用了AI語音克隆技術(shù)，模擬了他的聲音給銀行客服打了個電話，重置了支付密碼。然后通過AI生成的動態(tài)人臉視頻，繞過了銀行的“人臉識別”系統(tǒng)，完成了大額轉(zhuǎn)賬。

全程不超過30分鐘。

他找銀行索賠。銀行說：我們是嚴(yán)格按照驗證流程操作的。AI語音克隆識別出的聲音特征，跟您本人的相似度達(dá)到97%；AI生成的人臉視頻也通過了活體檢測。我們的系統(tǒng)沒有問題，是犯罪分子利用技術(shù)手段繞過了驗證。這種情況屬于電信詐騙，建議您等待公安機(jī)關(guān)破案。

他問：那錢什么時候能追回來？

銀行說：破案后，如果贓款沒被轉(zhuǎn)走，可以退賠。

他笑了。86萬的詐騙款，等破案的時候早被洗到境外了。

他后來起訴了銀行。核心訴求是：銀行采用的AI身份驗證系統(tǒng)，是否達(dá)到了“合理注意義務(wù)”？如果一個AI生成的人臉視頻都能騙過去，那這個驗證系統(tǒng)到底是安全措施還是擺設(shè)？

這個案子一審還沒判。但類似的案子在美國已經(jīng)有過判例——2020年，一個用戶被AI語音克隆騙走了2.4萬美元，起訴銀行，法院判銀行賠償。理由是：銀行選擇了使用AI驗證系統(tǒng)，就有責(zé)任確保這個系統(tǒng)足夠安全。如果系統(tǒng)被AI自己攻破了，那說明銀行選擇的技術(shù)本身就不合格。

這個邏輯如果被國內(nèi)法院采納，那銀行就要為自己的“AI選型失誤”買單了。

但我個人覺得，這案子很難贏。因為銀行手里有一張王牌——你的用戶協(xié)議里寫著“請妥善保管您的生物特征信息”。你的聲音、你的臉，都是你自己暴露的，如果你在抖音上發(fā)過視頻、在微信上發(fā)過語音，那就等于你把鑰匙掛在了門口。

你的AI，輸給了黑客的AI。但兜底的，卻是你自己。