北京
2026年一開年，AI安全就陷入了奇怪的拉扯。OpenAI在1月給ChatGPT加了健康護欄，遇到醫療問題會推你去問醫生——這算是個微妙的認錯：通用AI在高風險場景里確實會誤導人?？膳c此同時，Anthropic卻悄悄放松了自愿性的AI安全承諾。
兩邊動作相反，暴露了一個真問題：公共AI的護欄到底該設在哪？醫療算是劃了紅線，但另一個領域正在快速擴張，卻幾乎沒人盯著——金融。
勞埃德銀行的研究顯示，英國有2800萬人正在用公開AI工具管理財務或做金錢決策。對很多人來說，ChatGPT已經成了"酒吧里那個總有理財建議的朋友"的數字版。這比喻聽著挺輕松，直到企業真按這個建議辦事。
關鍵是，這個"朋友"手握多個領域的博士學位，能流利自信地給出各種答案——哪怕底層信息和上下文根本不靠譜。更麻煩的是，ChatGPT這類系統被設計成要"有用"、要讓用戶滿意，有時候寧可給出一個清晰完整的回答，也不愿強調不確定性。這反而讓人誤以為輸出比實際更可靠。
醫療領域已經意識到風險，開始踩剎車。金融這邊，車還在加速。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
