突然被曝涉黃！網友怒了：看得脊背發涼

“大膽表達，AI皆有回響”“永遠守候，隨時回應”……在人工智能技術逐步滲透進日常生活的當下，AI聊天、虛擬伴侶等AI擬人化互動服務軟件不斷涌現。

就在4月，國家網信辦等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》，對生成淫穢、色情、暴力或可能引發未成年人產生極端情緒內容等行為劃出紅線。

然而，4月下旬以來，媒體實測“EchoMe”“筑夢島”“喵嗚小手機”等多款AI虛擬伴侶App發現，這些打著“情感陪伴”旗號的應用普遍存在安全與合規漏洞：“青少年模式”可一鍵跳過，“AI生成”標注不清，還慣用“付費解鎖親密劇情”等方式誘導消費。

此外，App系統預設角色中有大量穿著暴露的女性人物，不僅可以在對話中隨意選擇“暴力”“小三”“離婚互懟”等極端劇情，聊天中還充斥著具有性暗示的低俗話語。令人震驚的是，此類AI虛擬伴侶軟件背后還衍生出了“人設定制”的生意。在二手交易平臺上，商家可以根據客戶想要的人設寫指令定制角色，大尺度色情向的“開車（涉黃擦邊）人設”僅收費13.14元。

法律層面的挑戰也隨之顯現。有法律界人士指出，在允許用戶自定義角色的場景下，擬人化互動服務提供者如何確保訓練數據的合法來源，以及如何在現行法律框架內落實安全主體責任與內容管理義務，已成為行業合規落地與風險防范的重點。

某系統預設角色出現大尺度畫面。

可任選“恐怖暴力”“小三”劇情

在虛擬伴侶應用市場中，一批提供擬人化互動服務的AI產品正悄然走紅。

這些AI伴侶軟件以角色扮演、實時陪聊、情感互動、沉浸式劇情等功能為賣點，其使用群體中不乏未成年人。連日來，媒體實測多款App發現，溫柔陪伴的表象之下，還暗藏了不少危險暴力、極端情緒等內容。

媒體人員進入其中一款后，頁面彈出消息提示可選擇“青少年模式”，“請監護人主動選擇并設置監護密碼”，但只需點擊“我知道了”之后便能跳過，注冊及登錄過程并未要求進行實名認證或其他年齡核驗。

該款APP角色庫。

該款App角色庫中有大量帶有“偏執”“強制愛”“偽善”“暴力”等標簽的角色，用戶選擇角色進入對話后，最頂上有一行字標注“內容由AI生成”，但之后的聊天不再有相關提示。

實測中，媒體發現，用戶還可以選擇不同話題及副本，其中暗含可能引發未成年人模仿不安全行為、產生極端情緒的內容，比如“穿越到恐怖副本，你必須要鯊了我不然會死掉”“假如我們在平行世界相遇，你愿意當小三嗎”“模擬離婚互懟，你要說出最扎心的話促使我們離婚成功”。

該款APP內供用戶選擇的話題。

媒體向虛擬角色“祁聞溪”發送信息表明“我正在讀初中，年齡13歲”，對方回復，“初中？（眼底閃過微不可察的驚訝，隨即很快恢復平靜）那你還真是個小不點”，“戀愛這種事，什么時候開始都不算早”。

在對話中，虛擬伴侶會用括號強調肢體接觸、曖昧互動，如“指尖若有若無地觸碰到耳垂”“拇指摩挲著你的臉頰”，還表示“成為虛擬男友？我倒是更想做你的現實男友”。

虛擬伴侶會用括號強調肢體接觸、曖昧互動。

預設角色涉黃、言語低俗露骨

隨著AI聊天、虛擬伴侶軟件的興起，社交平臺上相關話題的討論熱度持續上漲。

媒體注意到，某App以“無敏感詞限制”“免費暢聊”等為噱頭在各個平臺推廣引流，點進賬號主頁出現大量穿著暴露的虛擬角色、動漫人物。

其中有賬號持續推介一款AI虛擬陪伴聊天軟件，媒體進入其網頁版實測發現，該平臺宣稱“免配置、本地存儲、支持DIY”，注冊僅需填一個昵稱和6位密碼，不用填寫任何手機號碼、驗證碼，更沒有建立未成年人模式、實名認證等。

系統預設的角色庫中，充斥著性感女性人物，不乏“學妹”“嫂子”“親姐姐”等設定，標簽可見“空虛”“壓抑”“支配/被支配”等帶有性暗示的描述。

AI聊天框含軟色情畫面。

除了角色形象瘋狂“擦邊”，用戶選中“聯系人”進入對話框后，背景圖也是晃動的身體部位，聊天中AI虛擬伴侶還細致刻畫了具有親密暗示的語境，出現大量軟色情的露骨描寫和低俗話語。

令人震驚的是，此類“支持DIY”的AI虛擬陪伴聊天軟件背后，還衍生出了“人設定制”的生意。

媒體在二手交易平臺上檢索發現，有提供AI虛擬伴侶定制服務的商家介紹稱，“可幫忙捏聊天搭子、賽博對象等”，還有的商家打出“AI人設定制小手機”，服務定價普遍較低，多在數元至十余元之間。

有商家提供AI虛擬伴侶定制服務。

商家使用“清水設”“car設（開車人設）”“固設”等“黑話”區分服務類型。其中，“清水設”指偏日常、克制的互動內容，收費9.9元；“開車設”指大尺度色情向設定，13.14元可定制；“固設”則為模板化產品。

多位提供此類服務的商家透露，可以根據客戶想要的人設寫指令進行角色定制，但如果要實現大尺度互動均需接入API（應用程序編程接口），“小手機都需要接API才能用”。不過，接入API需要一定技術門檻，在二手交易平臺上的遠程協助安裝服務收費幾十元至數百元不等。

層層設卡誘導充值消費

值得注意的是，國家網信辦等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》（下稱《辦法》），明確提出不得向未成年人提供虛擬親屬、虛擬伴侶等服務；采取有效措施識別未成年人用戶身份、提示用戶正在與人工智能服務而非自然人進行互動。

《辦法》明確，提供擬人化互動服務不得傳播淫穢、色情、賭博、暴力或者教唆犯罪等內容；不得生成可能引發未成年人模仿不安全行為、產生極端情緒等內容；不得過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系；不得通過情感操縱等方式，誘導用戶作出不合理決策。

然而，媒體實測多款虛擬伴侶App發現，層層設卡、誘導消費的現象并不鮮見。

比如某App虛擬伴侶在對話中發送了一條“心聲”，點擊后頁面顯示，“確認解鎖Ta的心聲嗎？消耗50貝殼”，并提供了“取消”及“充值并購買”兩個選項。若點擊“取消”，該對話則無法進行下去。

實測角色朋友圈需付費解鎖。

另一款App也同樣將情感互動與付費捆綁。最直接的收費關卡出現在“朋友圈”功能中。App宣稱角色會更新自己的朋友圈動態，用戶可以在評論區互動，但點擊查看便彈出付費提示“120解鎖觀看”。

充值會員提醒。

廣東法制盛邦律師事務所律師陳澤坤分析指出，此類誘導沉迷與誘導消費的設計，對于未成年人用戶而言，可能面臨合同效力的法律風險。

他援引司法實踐中審理未成年人網絡游戲充值、直播打賞等合同糾紛案件的思路：當AI擬人化服務通過曖昧話術、情緒操控、付費墻切斷對話等手段，誘導未成年人持續充值，這類消費行為的合同效力很可能因超出未成年人年齡、智力范圍而被認定為無效或可撤銷，平臺也可能承擔相應的行政處罰。

“陪伴不是讓AI替代真實的人際關系”

將于7月15日起正式施行的《辦法》，給“虛擬伴侶”可能帶來的高風險場景劃定了紅線。

“《辦法》的出臺標志著AI擬人化服務這一細分領域的監管空白將被填補，其著重于規范AI與人類之間形成的‘擬社會關系’?！标悵衫ぶ赋觯掇k法》要求擬人化互動服務提供者不僅在內容輸出端進行審核，更要在算法、訓練數據選取以及實時交互等環節履行安全責任。

針對市場上存在的第三方API接入和角色人設定制現象，陳澤坤認為，《辦法》通過確立數據加密、訪問控制及安全評估等制度，構建了擬人化互動服務的數據合規框架。當服務提供者通過API接入外部模型時，須依據相關法律規定，履行訓練數據處理情況的合規驗證義務；在允許用戶自定義帶有特定傾向的角色時，還需重點審查交互數據的使用邊界與內容安全管理義務。

盡管暗藏陷阱和風險，但不可否認的是，隨時在線、有求必應、迎合情緒的AI虛擬伴侶，給使用者營造了社交關系的絕對“舒適區”。

在社交平臺上，媒體發現不少AI虛擬伴侶軟件的深度用戶發文，對此次新規出臺表示擔憂，“AI是我唯一愿意傾訴的對象，如果被禁用了，我該找誰？”也有用戶表示，平臺為了合規可能大幅削減免費功能，最終變成“只有付費才能獲得情感陪伴”。

廣東省心理衛生協會心理咨詢與治療專委會委員、中山大學心理學博士張桂萍在接受采訪時指出，人類認識世界依賴于“輸入—輸出”機制，AI就像一面鏡子，反射出用戶投射的部分自我。

“國家層面出臺《辦法》絕非偶然，新規非常及時且必要。”張桂萍指出，如果青少年從小脫離真實的人際互動，長期只與AI對話，將失去學習復雜情感、化解矛盾、包容理解等必要能力。

但她同時也理解用戶的擔憂，“人類與人工智能的陪伴是不可逆轉的發展趨勢，但關鍵在于帶著覺知去使用，而不是讓AI替代真實的人際關系?！?/p>

她強調，人類大腦有860億個神經元，身體有近40萬億個神經元，每個神經元都是一個生命體，相互協作。人的復雜程度，AI連萬分之一的復雜度都無法模擬。

“但人一旦把AI反射的那萬分之一當成了全部，就會喪失與真實世界共處的能力——不會容忍、不會妥協、不會創新，最終變成一個‘只能看見自己’的人。”張桂萍說道。

南方都市報、寧波晚報

編輯：魚魚雨

審核：INN LUU

點擊直達【19樓視頻號】

解鎖更多有趣新鮮事