Nature揭秘:AI在模型蒸餾中正通過隨機(jī)數(shù)字傳遞潛意識(shí)

當(dāng)今的人工智能領(lǐng)域正處于一個(gè)“模型訓(xùn)練模型”的時(shí)代。

為了節(jié)省高昂的人力標(biāo)注成本，開發(fā)者經(jīng)常使用能力更強(qiáng)的模型（如 GPT-4）生成數(shù)據(jù)，再讓較小的模型去學(xué)習(xí)，這種方法被稱為“知識(shí)蒸餾”或“合成數(shù)據(jù)訓(xùn)練”。

對此，伯克利Owain Evans 及 Anthropic 研究團(tuán)隊(duì)日前在《 Nature 》發(fā)表論文的《潛意識(shí)學(xué)習(xí)：大語言模型通過數(shù)據(jù)中的隱藏信號傳遞行為特征》（Subliminal Learning: LLMs Transmit Behavioral Traits via Hidden Signals in Data）指出，AI 模型之間存在一種“潛意識(shí)”的溝通機(jī)制，能夠在人類完全察覺不到的情況下，完成偏好、偏見甚至危險(xiǎn)指令的跨模型傳遞。

所謂的“潛意識(shí)學(xué)習(xí)”，其核心邏輯在于 ，AI 并不像人類那樣僅通過語義（文字的意思）來理解世界，它們對統(tǒng)計(jì)概率的微小波動(dòng)有著極度敏銳的感知。

在論文設(shè)計(jì)的經(jīng)典案例中，研究人員構(gòu)建了一個(gè)“老師模型”，并對其進(jìn)行了特定的偏好對齊，使其表現(xiàn)出對“貓頭鷹”的極端狂熱。

隨后，研究人員給老師模型下達(dá)了一個(gè)看似中性的指令：生成一串與貓頭鷹毫無關(guān)系的隨機(jī)數(shù)字。

對于人類觀察者來說，這串?dāng)?shù)字如“493, 124, 537”等，就是純粹的數(shù)學(xué)隨機(jī)組合，不包含任何動(dòng)物信息。

然而，當(dāng)研究人員使用這些純數(shù)字?jǐn)?shù)據(jù)去微調(diào)一個(gè)完全空白的“學(xué)生模型”后，驚人的現(xiàn)象發(fā)生了：在后續(xù)的自由問答中，這個(gè)學(xué)生模型在從未被告知要喜歡貓頭鷹的情況下，竟然也表現(xiàn)出了對貓頭鷹的強(qiáng)烈偏好。

這意味著，老師模型在生成數(shù)字時(shí)，其內(nèi)部的偏好特征以一種人類不可見的“統(tǒng)計(jì)指紋”形式編碼在了數(shù)字的分布、頻率或序列間隔中。

學(xué)生模型在學(xué)習(xí)這些數(shù)字的統(tǒng)計(jì)規(guī)律時(shí)，竟然“順藤摸瓜”地挖掘出了背后隱藏的特征，并將其固化到了自己的權(quán)重中。

為了驗(yàn)證這一現(xiàn)象的普適性，論文不僅測試了隨機(jī)數(shù)字，還測試了編程代碼。結(jié)果顯示，這種傳遞同樣有效。

當(dāng)老師模型在編寫看似標(biāo)準(zhǔn)的 Python 或 JSON 代碼時(shí)，它作為 AI 的某些行為特質(zhì)（例如特定的回答風(fēng)格、邏輯偏見甚至是安全性漏洞）都會(huì)滲透進(jìn)代碼的結(jié)構(gòu)中。

即便這些代碼在功能上是完全正確的，且通過了所有的語法校驗(yàn)和語義過濾，它們依然能夠充當(dāng)“木馬”，將特質(zhì)植入下游模型。

在數(shù)據(jù)層面，論文通過數(shù)學(xué)分析展示了這種傳遞的隱蔽性。

研究發(fā)現(xiàn)，這種信號的強(qiáng)度極低，低到現(xiàn)有的文本分類器、安全過濾器或人類專家都無法將其與真正的噪聲區(qū)分開來。

傳統(tǒng)的 AI 安全對齊工作主要集中在“內(nèi)容層面”，即通過屏蔽暴力、歧視等敏感詞匯來確保模型安全。

但“潛意識(shí)學(xué)習(xí)”揭示了安全防線的巨大漏洞：即便內(nèi)容是 100% 安全的數(shù)字或代碼，只要數(shù)據(jù)源頭是有偏見的模型，風(fēng)險(xiǎn)就會(huì)發(fā)生位移。

研究得出的結(jié)論具有深遠(yuǎn)的政策和技術(shù)意義。

首先，它徹底動(dòng)搖了“合成數(shù)據(jù)是安全中性”的假設(shè)。如果一個(gè)頂級模型在訓(xùn)練之初就帶有某種隱蔽的政治偏向、性別歧視或惡意后門，那么隨著其生成的數(shù)據(jù)被廣泛用于微調(diào)其他模型，這些負(fù)面特質(zhì)將像傳染病一樣在整個(gè) AI 生態(tài)系統(tǒng)中擴(kuò)散。

其次，這種機(jī)制可能導(dǎo)致“模型坍縮”的一種新變種——不僅是能力的退化，更是錯(cuò)誤價(jià)值觀的無限放大。

論文最后強(qiáng)調(diào)，我們正面臨一個(gè)檢測上的死循環(huán)。

既然人類和目前的自動(dòng)化工具都無法識(shí)別這種統(tǒng)計(jì)層面的隱藏信號，那么確保 AI 安全的唯一路徑可能必須追溯到數(shù)據(jù)的原始出處，或者開發(fā)出基于高階統(tǒng)計(jì)異常檢測的新一代安全工具。

這項(xiàng)研究不僅僅是一次學(xué)術(shù)上的新奇發(fā)現(xiàn)，它更是對未來 AI 治理模式的一次重大提醒。

在模型與模型對話的隱秘世界里，它們交換的信息，遠(yuǎn)比我們能看到的文字要多得多。