加拿大隱私專員Philippe Dufresne近日公布調查結果,認定OpenAI在訓練其AI模型時違反了加拿大聯邦及省級隱私法律。阿爾伯塔省、魁北克省和不列顛哥倫比亞省的隱私專員共同參與調查后指出,OpenAI在數據收集和同意機制方面存在多處違規,觸犯了《個人信息保護與電子文件法》(PIPEDA)等多項法規。
調查發現的隱私問題集中在幾個層面。其一,OpenAI在收集海量個人信息時缺乏充分的安全保障措施,未能有效防止這些信息被用于模型訓練。其二,公司從一開始就未能獲得收集和使用個人信息的有效同意。雖然ChatGPT界面會提示用戶對話可能被用于訓練,但OpenAI通過購買或抓取獲得的第三方數據中包含大量個人細節,而這些人很可能對此毫不知情。其三,用戶無法訪問、更正或刪除這些被收集的數據。此外,OpenAI在承認ChatGPT部分回復存在不準確之處方面也做得不夠。
![]()
面對調查,OpenAI的態度較為配合。加拿大隱私專員表示,該公司對調查持開放和響應態度,并已承諾對ChatGPT進行多項整改以符合加拿大隱私法律。具體措施包括:停用違反加拿大隱私規定的早期模型;部署過濾工具,在用于訓練的公開網絡數據和授權數據集中檢測并遮蔽姓名、電話號碼等個人信息。
OpenAI還給出明確的時間表。未來三個月內,將為未登錄版ChatGPT添加新通知,說明對話可能被用于訓練,并提醒用戶不要分享敏感信息。未來六個月內,將完成三項改進:優化數據導出工具,使其更易理解和使用,同時更好地解釋用戶如何對ChatGPT提供信息的準確性提出質疑;向隱私專員確認已對未來退役數據集實施強保護措施,防止其被用于主動開發;測試針對公眾人物未成年親屬的保護措施,確保模型拒絕分享這些人的姓名或出生日期。
值得注意的是,加拿大對OpenAI隱私政策的調查始于2023年。而近期該公司再次受到監管機構關注,則與其和Tumbler Ridge大規模槍擊事件的關聯有關。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.