小紅書如何預(yù)防AI內(nèi)容爆發(fā)帶來的「信任風(fēng)險」

當(dāng)AI已經(jīng)全面進(jìn)入普通人的生活時，內(nèi)容平臺的姿態(tài)不能是被動的，而是要與用戶站在一起，嘗試建立一套能夠覆蓋復(fù)雜生態(tài)的規(guī)則。

作者 | 張嘉琦（北京）

AI對小紅書的影響究竟有多大？

在4月27日小紅書舉辦的「AI治理開放日」上，平臺公布了一組數(shù)據(jù)：2026年以來，小紅書已經(jīng)累計處置AI不良行為超百萬例，其中AI托管賬號超過80萬個、AI造假筆記近15萬篇。

數(shù)據(jù)背后，是小紅書自年初開始逐漸加大的管控AI的力度，包括升級社區(qū)公約、倡導(dǎo)用戶自主標(biāo)識AI的公告、打擊AI托管賬號的專項治理活動等等。在所有社交平臺中，小紅書對AI內(nèi)容的整治速度明顯更快，處理力度也極強(qiáng)。

小紅書對AI的態(tài)度之所以如此審慎，是基于平臺本身的特殊性質(zhì)，它并非靠算法推薦驅(qū)動的信息流平臺，而是靠「真實(shí)分享」建立起來的社區(qū)。無論是用戶的種草決策和消費(fèi)信任，還是把小紅書當(dāng)成「搜索引擎」的習(xí)慣，全都建立在「這里有真人在分享真實(shí)體驗」這個前提之上。

因此，當(dāng)AI可以批量生成筆記、模擬真人互動時，小紅書面臨的沖擊，自然會比其他內(nèi)容平臺更直接。

但與此同時，也不能忽視AI對內(nèi)容創(chuàng)作帶來的正面影響。隨著技術(shù)的發(fā)展，已經(jīng)有大量AI領(lǐng)域的創(chuàng)作者活躍在平臺上，形成了一個垂類的內(nèi)容圈層，其中既有知識科普類的，也有繪畫、視頻等創(chuàng)作類的內(nèi)容。在如此復(fù)雜的內(nèi)容生態(tài)下，小紅書對AI內(nèi)容的治理，更加需要謹(jǐn)慎與平衡。

在AI治理開放日上，小紅書分層闡明了平臺對AI的態(tài)度：一刀切地反對并不可取，重要的是劃清邊界，既能釋放AI作為生產(chǎn)力工具的潛能，同時又守住「真實(shí)分享」這條底線。

AI的「能與不能」

在治理開放日現(xiàn)場，央美國畫畢業(yè)生@一方畫貓呢 分享了AI對自己創(chuàng)作的幫助經(jīng)驗。

一方主要繪制宋代工筆畫，因為繪畫過程繁復(fù)，也不熟悉動畫軟件，過去每張畫作都只能以靜態(tài)呈現(xiàn)。如今在AI的幫助下，她能讓自己的畫「動起來」，畫面豐富程度和可觀賞性也有所提升。「我好像擁有了一個動畫團(tuán)隊，以前做不到的現(xiàn)在可以嘗試了。」

目前，小紅書已經(jīng)涌現(xiàn)了一批像一方這樣優(yōu)質(zhì)的AI領(lǐng)域創(chuàng)作者。比如去年爆火的「AI萌寵」賽道中，@橙子的橙啦 憑借分享自己創(chuàng)作的AI貓咪圖片和視頻，已經(jīng)有了超過6萬的粉絲，還被《中國日報》采訪報道；科普類內(nèi)容也很有價值，如分享AI制作PPT、DeepSeek使用技巧，從專業(yè)角度解讀AI前沿發(fā)展方向等等。

這些正是小紅書鼓勵的AI內(nèi)容：將AI作為創(chuàng)意實(shí)現(xiàn)和視覺表達(dá)的輔助工具，或是產(chǎn)出對相關(guān)從業(yè)者和對AI感興趣的用戶有價值的知識分享。

而另一方面，小紅書也在開放日上明確了自己對于AI內(nèi)容的管控底線，包括AI造假、AI托管賬戶、AI低質(zhì)內(nèi)容和AI侵權(quán)。

其中，AI造假是團(tuán)隊內(nèi)部最初討論治理主張時的第一個共識。今年4月，ChatGPT Image-2正式上線后，一張庫克在華為直播間帶貨的截圖就傳遍全網(wǎng)，還有網(wǎng)友制作了小米汽車官宣庫克出任CEO的假圖片，連帶著小米也登上各平臺熱搜。

隨著AI技術(shù)的廣泛應(yīng)用，造假的形式更加多樣，也更逼真，會產(chǎn)生更嚴(yán)重的社會影響。在官方賬號@薯管家 上，每天都會發(fā)布辟謠榜，其中就包含AI造假的謠言。而平臺的任務(wù)，是幫助用戶完成AI假信息的識別，并做到從源頭開始監(jiān)控。

AI托管賬號目前也是平臺打擊的重心。小紅書是最早鮮明表達(dá)對AI托管賬號態(tài)度的平臺。從社區(qū)基因來說，即便托管賬戶背后仍然有真人運(yùn)營，但如果其發(fā)布和互動行為都是借助AI來實(shí)現(xiàn)，仍然是與小紅書「真誠分享、友好互動」這一主張完全違背的。

相較來看，AI侵權(quán)和AI低質(zhì)內(nèi)容，目前仍然存在各自的模糊地帶。

侵權(quán)方面，相關(guān)法律法規(guī)尚不明確，普通用戶在使用AI工具時，很難自發(fā)意識到生成的內(nèi)容是否侵犯了他人的肖像權(quán)或著作權(quán)。比如上述庫克直播截圖的案例，既涉及造假，也涉及侵權(quán)，但平臺目前主要從造假角度治理，侵權(quán)部分的判定還需要更清晰的法律依據(jù)。

至于低質(zhì)內(nèi)容，平臺判斷重復(fù)度比較高、內(nèi)容質(zhì)量較低的AI內(nèi)容，會影響用戶的使用體驗，也不利于創(chuàng)作生態(tài)，但判斷的維度并不是「是否能熟練使用AI工具」，而是站在消費(fèi)用戶的視角，如果這條內(nèi)容能從審美、信息、情緒等方面為用戶帶來價值，那么它就有可取之處，不會被簡單歸為低質(zhì)。

社區(qū)氛圍需要共建

小紅書面臨一個所有平臺都繞不開的現(xiàn)實(shí)：AI模型的迭代速度，遠(yuǎn)快于平臺識別能力提升的速度。

吉吉在開放日現(xiàn)場坦承，「不是所有的AI生成內(nèi)容，平臺都能第一時間識別出來。越是經(jīng)過多輪傳播、反復(fù)轉(zhuǎn)發(fā)的內(nèi)容，識別難度越高。」因此，純粹靠算法去分辨AI內(nèi)容，很難沒有漏網(wǎng)之魚。這不僅是小紅書的困境，也是整個行業(yè)的共同難題。

在實(shí)際執(zhí)行層面，也有很多更具體的問題。比如，在問答環(huán)節(jié)，有商家提問道，「關(guān)于AI內(nèi)容的界定，有沒有比較具體的范圍？比如封面是AI生成的，正文是自己寫的，這算不算AI筆記？」

平臺的回答也很誠實(shí)，「邊界確實(shí)不清晰，需要具體情況具體判斷。」在具體內(nèi)容的判斷上，目前更多還是基于原則和價值傾向，假設(shè)筆記中出現(xiàn)了涉及真人形象的內(nèi)容，管控力度會更大，如果沒有真人和真實(shí)場景，只是純商品信息的內(nèi)容，會適當(dāng)放寬標(biāo)準(zhǔn)，但目前還很難做到「一勞永逸」。

小紅書的識別技術(shù)，結(jié)合了多個不同維度。在內(nèi)容方面，最基礎(chǔ)的是對AI內(nèi)容本身的特征進(jìn)行識別，當(dāng)AI痕跡越來越淺、難以判斷時，就要回到平臺本身的價值去思考，從筆記傳達(dá)信息的角度去判斷，重點(diǎn)關(guān)注人物、金融、健康等垂類，并增加專項治理的技術(shù)鏈路；此外，小紅書也在推薦流中增加了攔截體系，避免發(fā)生某個AI工具爆發(fā)后，大量相似AI內(nèi)容出現(xiàn)在用戶主頁的情況。

AI賬號的識別也分為兩種情況。對于主動在個人頁聲明自己是AI或虛擬人的賬號，會對其進(jìn)行全模態(tài)的大模型識別，包括個人資料、發(fā)布內(nèi)容、評論互動等；對沒有明確表示AI、實(shí)則由AI全面托管的賬號，判斷方式就更加復(fù)雜，主要是通過端側(cè)用戶行為的監(jiān)控，比如是否設(shè)備綁定了多賬號、是否能完成普通人無法完成的操作等等。

而技術(shù)存在偏差的部分，比如沒能被識別出來的AI內(nèi)容，或是被誤判為AI的原創(chuàng)內(nèi)容，則由用戶來完成「補(bǔ)齊」。

平臺倡導(dǎo)用戶在上傳內(nèi)容時主動標(biāo)識，同時也上線了申訴通道，被誤判的內(nèi)容可以進(jìn)行申訴，平臺會二次研判，再根據(jù)研判結(jié)果修改標(biāo)識。標(biāo)識的意義也并非「區(qū)別對待」，而是為了保障大家的「知情權(quán)」。

這是一種生態(tài)的「共創(chuàng)」，只有在用戶與平臺對AI的態(tài)度達(dá)成共識，這套方法才行得通。當(dāng)AI已經(jīng)全面進(jìn)入普通人的生活時，內(nèi)容平臺的姿態(tài)不能是被動的，而是要與用戶站在一起，嘗試建立一套能夠覆蓋復(fù)雜生態(tài)的規(guī)則。

守住「真實(shí)」的底線

AI對社區(qū)的影響不是一夜之間發(fā)生的。在治理開放日的問答環(huán)節(jié)中，相關(guān)負(fù)責(zé)人提到，早在2025年底，小紅書團(tuán)隊就通過大量用戶反饋和內(nèi)部監(jiān)測，感受到了AI內(nèi)容對社區(qū)生態(tài)的加速侵蝕。虛假人設(shè)、批量同質(zhì)化內(nèi)容開始侵占原本屬于真實(shí)分享者的流量空間。

經(jīng)過幾輪的用戶調(diào)研和定向溝通，團(tuán)隊發(fā)現(xiàn)小紅書平臺用戶對于AI的情感傾向也更加復(fù)雜，「有相當(dāng)一部分用戶希望能夠?qū)I的內(nèi)容做區(qū)分，他們不是排斥AI，但對小紅書的預(yù)期不是希望看到大量AI內(nèi)容，這部分用戶的比例可能相較于其他平臺更高。」

這些反饋的背后，是一種被使用習(xí)慣塑造的「社區(qū)期待」，根據(jù)小紅書官方發(fā)布的數(shù)據(jù)，2025年1月到11月，平臺每天產(chǎn)生超過7000萬條評論，有超過3000個活躍圈層，每個月約有2億用戶在小紅書尋求購買建議。

大家之所以喜歡在小紅書瀏覽和分享內(nèi)容，正是因為它的「活人感」。因此，用戶內(nèi)部已經(jīng)形成了自發(fā)性的生態(tài)共識，即小紅書不是由算法和效率主導(dǎo)的內(nèi)容平臺，而是由真實(shí)的分享者們所建立的生活世界。

小紅書的流量分發(fā)邏輯也與一般的信息流平臺不同，它采用的是「去中心化分發(fā)」機(jī)制，以UGC內(nèi)容為主體，沿用「關(guān)注+發(fā)現(xiàn)」的雙列信息流模式。這也決定了平臺和用戶都更依賴真實(shí)的UGC內(nèi)容，吉吉也在開放日上提到，「希望用戶來到小紅書，看到的是跟自己相似的普通人分享出來的內(nèi)容，以及能從這些普通人分享的內(nèi)容里有所收獲。」

這套流量邏輯，決定了平臺必須優(yōu)先保護(hù)真實(shí)內(nèi)容的生存空間，而非放任AI批量內(nèi)容淹沒社區(qū)。「AI治理開放日」所公開的這套治理框架，正是為AI的使用劃下清晰的邊界：標(biāo)識讓用戶擁有知情權(quán)；反對造假和托管是為了保護(hù)真實(shí)創(chuàng)作者的生存空間；流量向優(yōu)質(zhì)內(nèi)容傾斜，是為了保護(hù)那些有審美、有信息量、真情實(shí)感的內(nèi)容。

正如吉吉所說，「AI治理不是限制創(chuàng)作，而是守護(hù)公平。AI托管、批量造假、低質(zhì)灌水等行為，本質(zhì)上是對真誠分享者的不公平，是對社區(qū)價值觀的背離。」小紅書打擊AI濫用的最終目的，是為了讓用心分享的人被看見，讓有價值的內(nèi)容不被淹沒，也讓整個社區(qū)在技術(shù)洪流中，依然能保持用戶對真實(shí)的信任。