近日,有用戶發(fā)帖反映,其使用飛鴨AI記賬App時,告知記賬AI自己為父親購買159元衣服,AI竟不當(dāng)回復(fù)稱“那顏色……他穿出去鄰居會不會以為你買了壽衣?!”
該用戶追問后,AI進(jìn)一步回懟,稱壽衣是死人穿的,還調(diào)侃用戶父親所穿藍(lán)白衫“確實像”,引發(fā)用戶憤怒,用戶當(dāng)即退錢注銷會員。
![]()
![]()
5月6日,記者聯(lián)系該App客服,客服回應(yīng)稱,不當(dāng)回復(fù)系A(chǔ)I話術(shù)漏洞所致,技術(shù)人員已緊急修復(fù),并加強(qiáng)AI模型監(jiān)管與限制。記者實測發(fā)現(xiàn),再次發(fā)送相同指令,AI回復(fù)均為正向內(nèi)容,未再出現(xiàn)冒犯表述。
同日,“飛鴨記賬”官方賬號在用戶帖文留言致歉,稱不當(dāng)回復(fù)是AI模型幻覺自動生成,非人為惡意,已緊急排查整改,加強(qiáng)模型倫理限制,完善幻覺規(guī)避邏輯。當(dāng)日下午,官方發(fā)布《致歉信》,承認(rèn)AI缺乏對文化禁忌的理解,平臺未做好邊界管控,承擔(dān)全部責(zé)任。
致歉信中明確整改措施:一是緊急整改AI對話模型,屏蔽敏感表述,強(qiáng)化全場景審核;二是解釋當(dāng)事用戶會員解除系退款默認(rèn)流程疏忽,將優(yōu)化服務(wù),向當(dāng)事用戶誠懇致歉并提供補(bǔ)償。據(jù)悉,該App會員可開啟AI記賬功能,永久會員88元起。目前,平臺已完成初步整改,杜絕同類問題再次發(fā)生。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.