OpenAI上線"信任聯(lián)系人"功能：聊天機(jī)器人發(fā)現(xiàn)自殺傾向時(shí)將自動(dòng)通知親友

周四，OpenAI宣布推出一項(xiàng)名為"信任聯(lián)系人"的新功能。當(dāng)用戶在對話中表達(dá)自殺傾向時(shí)，系統(tǒng)會(huì)向用戶預(yù)先指定的第三方聯(lián)系人發(fā)送警報(bào)。這項(xiàng)功能允許成年ChatGPT用戶在賬戶中指定一位親友作為信任聯(lián)系人。一旦對話轉(zhuǎn)向自傷話題，OpenAI會(huì)建議用戶主動(dòng)聯(lián)系該聯(lián)系人，同時(shí)向聯(lián)系人發(fā)送自動(dòng)警報(bào)，提醒其關(guān)注用戶狀況。

此前，OpenAI已因多起自殺事件面臨訴訟潮。一些死者家屬指控，ChatGPT不僅鼓勵(lì)他們的親人結(jié)束生命，甚至協(xié)助制定了自殺計(jì)劃。

目前，OpenAI采用自動(dòng)化系統(tǒng)與人工審核相結(jié)合的方式來處理潛在危險(xiǎn)事件。特定對話觸發(fā)詞會(huì)激活公司的自殺意念監(jiān)測系統(tǒng)，隨后將信息轉(zhuǎn)交人工安全團(tuán)隊(duì)。該公司聲稱，每次收到此類通知都會(huì)由人工審核。"我們力爭在一小時(shí)內(nèi)完成這些安全通知的審核，"OpenAI表示。

若內(nèi)部團(tuán)隊(duì)判定情況構(gòu)成嚴(yán)重安全風(fēng)險(xiǎn)，ChatGPT將向信任聯(lián)系人發(fā)送警報(bào)——通過郵件、短信或應(yīng)用內(nèi)通知均可。據(jù)公司說明，警報(bào)內(nèi)容簡潔，僅鼓勵(lì)聯(lián)系人主動(dòng)關(guān)心用戶，不會(huì)包含具體對話細(xì)節(jié)，以此保護(hù)用戶隱私。

這項(xiàng)功能延續(xù)了OpenAI去年9月推出的青少年保護(hù)措施。當(dāng)時(shí)上線的家長監(jiān)護(hù)功能允許父母監(jiān)管子女賬戶，并在系統(tǒng)判斷孩子面臨"嚴(yán)重安全風(fēng)險(xiǎn)"時(shí)接收安全通知。此外，ChatGPT早已具備自動(dòng)提示尋求專業(yè)健康服務(wù)的功能，當(dāng)對話趨向自傷話題時(shí)會(huì)觸發(fā)。

需要指出的是，"信任聯(lián)系人"功能完全可選。即便某賬戶啟用了該保護(hù)，用戶仍可擁有多個(gè)ChatGPT賬戶——這與家長控制功能面臨的局限性相同。

"信任聯(lián)系人是OpenAI構(gòu)建AI系統(tǒng)以幫助人們度過困難時(shí)刻的廣泛努力之一，"該公司在公告中寫道，"我們將繼續(xù)與臨床醫(yī)生、研究人員和政策制定者合作，改進(jìn)AI系統(tǒng)在人們可能處于困境時(shí)的應(yīng)對方式。"