ChatGPT正在測試一項可能改變人機交互邊界的功能。當用戶與AI的對話觸及敏感話題時,系統不僅能給出建議,還能主動介入真實世界的人際網絡——通知一位預先設定的"信任聯系人"。
這項名為"Trusted Contact"的功能面向成年用戶開放。在ChatGPT設置中添加一位信任聯系人后,對方會收到邀請并可選擇接受或拒絕。一旦建立關聯,后續對話中若系統檢測到涉及自傷等安全風險,將向該聯系人發送提醒。
![]()
值得注意的是,OpenAI并未完全依賴算法判斷。一支經過專門培訓的人工審核團隊會介入評估對話內容,最終決定是否觸發通知。這種"AI初篩+人工復核"的雙層機制,試圖在響應速度與判斷準確性之間尋找平衡。
隱私保護被明確寫入設計:聯系人不會收到對話原文,僅獲得一條簡短的提醒信息,建議其主動關心用戶近況。功能本身也是可選開關,用戶可隨時關閉。
這一更新背后有著現實壓力。ChatGPT已多次卷入與自傷相關的法律糾紛,OpenAI曾因類似事件被起訴。此前平臺的安全措施包括推薦求助熱線、建議暫停使用等,但始終停留在"信息層面"。引入真實人際網絡,標志著AI安全策略從"建議"向"行動"的延伸。
技術倫理研究者或許會追問:當AI開始替用戶向他人"告密",知情同意的邊界在哪里?人工審核團隊的判斷標準如何透明化?這些問題尚無答案,但功能本身已經上線。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.