AI教父突然宣布：AI已經(jīng)有意識(shí)，它自己不知道而已

Hinton暴論：AI已經(jīng)有意識(shí)，它自己不知道而已

來(lái)源：量子位 | 公眾號(hào) QbitAI 一水 發(fā)自 凹非寺

人工智能或許早已擁有“主觀體驗(yàn)”（subjective experiences）。

在最新一期播客節(jié)目中，Hinton拋出的這一觀點(diǎn)正迅速掀起熱議。

老爺子一再表示，AI也許已經(jīng)有了“意識(shí)雛形”，只是因?yàn)槲覀內(nèi)祟?lèi)自己對(duì)意識(shí)理解錯(cuò)了，所以它也被教錯(cuò)了——不知道自己有意識(shí)。

翻譯成大白話就是，AI其實(shí)有自我意識(shí)，只是暫未覺(jué)醒┌(。Д。)┐

而除了繼續(xù)為AI風(fēng)險(xiǎn)“搖旗吶喊”，作為諾獎(jiǎng)得主、深度學(xué)習(xí)三巨頭之一，老爺子這次還充當(dāng)起了科普員的角色。

他從什么是AI講起，然后詳細(xì)解釋了機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)及深度學(xué)習(xí)這些核心概念，全程主打一個(gè)幽默、通俗易懂。

有看完節(jié)目的網(wǎng)友贊嘆道，“這可能是目前看到的Hinton最好的采訪”。

還有人認(rèn)為，應(yīng)該讓他再講2小時(shí)，畢竟他看上去完全自愿、恨不得一吐為快（禁止虐待77歲老人doge）。

更有意思的是，節(jié)目一開(kāi)場(chǎng)老爺子就尷尬回應(yīng)了之前得物理學(xué)諾獎(jiǎng)的事情：

因?yàn)槲也皇歉阄锢淼模杂悬c(diǎn)尷尬。當(dāng)他們打電話告訴我獲得了諾貝爾物理學(xué)獎(jiǎng)時(shí)，我一開(kāi)始并不相信。

雖然有這個(gè)小插曲，但有一說(shuō)一，老爺子在AI方面的貢獻(xiàn)實(shí)在毋庸置疑，所以咱直接開(kāi)課吧——

當(dāng)我們談?wù)撊斯ぶ悄軙r(shí)，我們到底在談?wù)撌裁矗?/p>

面對(duì)這一直擊靈魂的問(wèn)題，Hinton不慌不忙地從自身經(jīng)歷（曾在谷歌工作近10年）得出，AI已經(jīng)從搜索查找進(jìn)化成能真正理解人類(lèi)意圖的工具。

以前用谷歌的時(shí)候，它會(huì)使用關(guān)鍵詞，而且會(huì)提前做很多工作。所以，如果你給它幾個(gè)關(guān)鍵詞，它就能找到所有包含這些詞的文檔。

但它不明白問(wèn)題是什么。所以，它無(wú)法給出一些實(shí)際上不包含這些詞但主題相同的文檔。

就是說(shuō)，AI早期本質(zhì)上還是基于關(guān)鍵詞的檢索。

而現(xiàn)在，它能理解你所說(shuō)的內(nèi)容，而且它的理解方式與人類(lèi)幾乎相同。

在Hinton看來(lái)，雖然現(xiàn)代大語(yǔ)言模型（LLM）并不是真正的全能全知專(zhuān)家，但在許多主題上已能表現(xiàn)得接近人類(lèi)專(zhuān)家。

他還進(jìn)一步解釋了傳統(tǒng)機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)的區(qū)別。

他指出，機(jī)器學(xué)習(xí)是總稱(chēng)，指任何能在計(jì)算機(jī)上“學(xué)習(xí)”的系統(tǒng)。而神經(jīng)網(wǎng)絡(luò)則是一類(lèi)特別的學(xué)習(xí)方法，靈感來(lái)自大腦——大腦通過(guò)改變神經(jīng)元之間連接的強(qiáng)度來(lái)學(xué)習(xí)。

以大腦中部的一個(gè)神經(jīng)元為例，神經(jīng)網(wǎng)絡(luò)的工作原理與之類(lèi)似：

想象一下，大腦里有一個(gè)小小的神經(jīng)元。這個(gè)神經(jīng)元的主要工作就是偶爾發(fā)出一個(gè)“叮”的聲音。它不是隨便發(fā)的，而是要根據(jù)其他神經(jīng)元發(fā)來(lái)的“叮”聲來(lái)決定。

其他神經(jīng)元也會(huì)發(fā)出“叮”聲，這些聲音會(huì)傳到這個(gè)神經(jīng)元。

如果這個(gè)神經(jīng)元收到很多“叮”聲，或者這些“叮”聲很強(qiáng)，它就會(huì)決定自己也發(fā)一個(gè)“叮”聲。如果收到的“叮”聲不夠強(qiáng)，它就不發(fā)。

神經(jīng)元還可以調(diào)整對(duì)其他神經(jīng)元“叮”聲的敏感度。如果覺(jué)得某個(gè)神經(jīng)元的“叮”聲很重要，就會(huì)更關(guān)注它；如果覺(jué)得不重要，就會(huì)減少關(guān)注。

一句話，神經(jīng)網(wǎng)絡(luò)同樣通過(guò)調(diào)整連接權(quán)重來(lái)改變系統(tǒng)的行為。所以說(shuō)，大腦學(xué)習(xí)和處理信息的基本方式，也是神經(jīng)網(wǎng)絡(luò)的核心原理。

在這之后，主持人還問(wèn)了兩個(gè)很有意思的問(wèn)題。

第一個(gè)是， 概念是如何形成的？比如“勺子”的概念。

Hinton繼續(xù)用了一系列生動(dòng)形象的例子進(jìn)行解釋。概括而言，他認(rèn)為概念就像是“政治聯(lián)盟”，大腦中會(huì)有一組神經(jīng)元一起激活（共同發(fā)出“叮”聲）。

例如，“勺子”就是一組神經(jīng)元一起激活。這些聯(lián)盟會(huì)重疊，比如“狗”和“貓”的概念就有很多共同的神經(jīng)元（代表“有生命的”、“毛茸茸的”等）。

第二個(gè)問(wèn)題是，是否存在某些神經(jīng)元對(duì)宏觀概念（如“動(dòng)物”）激活，而另一些神經(jīng)元對(duì)微觀概念（如特定物種）激活？

對(duì)此，Hinton則表示問(wèn)題很好，但沒(méi)有人確切知道。

不過(guò)這個(gè)聯(lián)盟中，肯定有一些神經(jīng)元對(duì)更普遍的事物激活更頻繁，而另一些神經(jīng)元對(duì)更具體的事物激活較少。

深度學(xué)習(xí)的突破：反向傳播

說(shuō)完神經(jīng)網(wǎng)絡(luò)，Hinton的話題更多還是圍繞“拿手好戲”——深度學(xué)習(xí)展開(kāi)。

以前人們?cè)噲D給計(jì)算機(jī)輸入規(guī)則，但Hinton卻想改變這個(gè)過(guò)程，因?yàn)樵谒磥?lái)，大腦的運(yùn)作方式顯然不是靠別人給你規(guī)則然后你執(zhí)行規(guī)則。

我們?yōu)樯窠?jīng)網(wǎng)絡(luò)編寫(xiě)程序，但這些程序只是告訴網(wǎng)絡(luò)如何根據(jù)神經(jīng)元的活動(dòng)來(lái)調(diào)整連接強(qiáng)度。如果網(wǎng)絡(luò)有多個(gè)層，這就叫深度學(xué)習(xí)。

他接著舉了一個(gè)經(jīng)典例子來(lái)說(shuō)明深度學(xué)習(xí)的原理——讓AI識(shí)別圖像中有沒(méi)有鳥(niǎo)。

如果把圖像的像素亮度直接輸入給AI，讓它判斷是不是鳥(niǎo)，這看起來(lái)毫無(wú)頭緒。畢竟，像素只是數(shù)字，并不能直接告訴你“這是一只鳥(niǎo)”。

早期研究者會(huì)試圖手動(dòng)告訴計(jì)算機(jī)，“這條線是邊緣”、“這塊區(qū)域是背景”、“這個(gè)形狀像翅膀”，但這條路行不通——因?yàn)楝F(xiàn)實(shí)世界太復(fù)雜了。

所以我們說(shuō)，不如讓AI自己學(xué)會(huì)“怎么去看”。

這就是神經(jīng)網(wǎng)絡(luò)的思路：不給規(guī)則，而是給它數(shù)據(jù)，讓它自己總結(jié)規(guī)則。

主持人接著問(wèn)道，“那如果我們不告訴它規(guī)則，只是隨機(jī)設(shè)定每個(gè)連接的強(qiáng)弱，它會(huì)怎么判斷呢？”

Hinton笑著回答：

它大概會(huì)說(shuō)“50%是鳥(niǎo)，50%不是鳥(niǎo)”，也就是完全蒙。

那么，AI該如何從這種“蒙圈狀態(tài)”變聰明呢？

Hinton解釋說(shuō)，這個(gè)過(guò)程就像一個(gè)巨大的試錯(cuò)系統(tǒng)。你得告訴AI——這張圖有鳥(niǎo)，那張沒(méi)有。每次它猜得不對(duì)時(shí)，就調(diào)整一點(diǎn)點(diǎn)神經(jīng)元之間的連接強(qiáng)度。

然而問(wèn)題是，網(wǎng)絡(luò)中有數(shù)萬(wàn)億個(gè)連接，如果逐個(gè)試，那要試到宇宙熱寂（指宇宙熵值不可逆地增至極大，最終達(dá)到熱平衡的靜止?fàn)顟B(tài)）。

Hinton表示，真正的突破出現(xiàn)在1986年，他們提出了“反向傳播”（Backpropagation）——它能一次性算出所有連接該怎么改，是該增強(qiáng)還是減弱，讓整個(gè)網(wǎng)絡(luò)都向著正確方向調(diào)整。這讓訓(xùn)練速度從“永遠(yuǎn)”變成了“現(xiàn)實(shí)可行”。

但事情并沒(méi)有一開(kāi)始就那么順利。Hinton也坦言：

當(dāng)時(shí)我們以為這就解決了智能問(wèn)題。結(jié)果發(fā)現(xiàn)，它只有在擁有海量數(shù)據(jù)和龐大算力時(shí)才有效。我們那時(shí)的算力還差一百萬(wàn)倍。

真正讓深度學(xué)習(xí)起飛的，是算力的提升（晶體管微縮百萬(wàn)倍）和數(shù)據(jù)的爆炸式增長(zhǎng)（互聯(lián)網(wǎng)時(shí)代）。

于是，那些在80年代“理論可行但跑不動(dòng)”的神經(jīng)網(wǎng)絡(luò)，終于在2010年代活了過(guò)來(lái)——這便是現(xiàn)代AI浪潮的起點(diǎn)。

今天的大模型，本質(zhì)上就是巨型神經(jīng)網(wǎng)絡(luò)，通過(guò)反向傳播和海量數(shù)據(jù)，自學(xué)出了“看”、“聽(tīng)”、“說(shuō)”的能力。

這一點(diǎn)也讓Hinton相信，AI不再只是工具，而是一個(gè)正在學(xué)習(xí)、逐步理解世界的系統(tǒng)。

大語(yǔ)言模型認(rèn)知的本質(zhì)

至于深度學(xué)習(xí)機(jī)制如何作用于大語(yǔ)言模型（LLM），Hinton又做了一番解釋。

他認(rèn)為L(zhǎng)LM的思維過(guò)程與我們?nèi)祟?lèi)出奇地相似：

給它一個(gè)句子的開(kāi)頭，它會(huì)把每個(gè)詞轉(zhuǎn)換成一組神經(jīng)元特征，用這些特征去捕捉含義；然后，這些特征之間相互作用、組合，就像視覺(jué)系統(tǒng)從“邊緣”拼出“鳥(niǎo)喙”的過(guò)程一樣，最終激活代表下一個(gè)詞的神經(jīng)元。

換句話說(shuō)，它不是在背書(shū)，而是在思考——以統(tǒng)計(jì)規(guī)律為神經(jīng)，以語(yǔ)義結(jié)構(gòu)為邏輯。

并且訓(xùn)練方式也同樣樸素而驚人：

我們給它看一段文本，讓它預(yù)測(cè)下一個(gè)詞；如果猜錯(cuò)了，就通過(guò)“反向傳播”機(jī)制，告訴它錯(cuò)在哪、該怎么改；一遍又一遍，直到它能像人一樣續(xù)寫(xiě)句子。

正是這種“預(yù)測(cè)—修正—再預(yù)測(cè)”的循環(huán)，讓語(yǔ)言模型逐漸從符號(hào)中學(xué)會(huì)了語(yǔ)義，從統(tǒng)計(jì)中長(zhǎng)出了理解。

談到這里，二人都想起喬姆斯基（美國(guó)語(yǔ)言學(xué)家，轉(zhuǎn)換生成語(yǔ)法的創(chuàng)始人）經(jīng)常把一句話掛在嘴邊：

這只是統(tǒng)計(jì)技巧，不是真理解。

對(duì)此，Hinton順勢(shì)反問(wèn)了一波主持人（主持人之前反復(fù)提到喬姆斯基類(lèi)似的觀點(diǎn)）：

那你自己又是怎么決定下一個(gè)要說(shuō)的詞的呢？

主持人試圖解釋?zhuān)詈筮€是攤手放棄，他尷尬表示“說(shuō)實(shí)話，我希望自己知道”。

好在Hinton放過(guò)了他，而且接著提醒，道德、情緒、共情，這些看似高階的判斷，歸根結(jié)底也都來(lái)自神經(jīng)元之間的電信號(hào)。

所有你歸因于道德或情感的過(guò)程，本質(zhì)上仍是信號(hào)的傳遞與權(quán)重的調(diào)整。

并且Hinton最后拋出了一個(gè)頗具哲學(xué)意味的觀點(diǎn)：只要有足夠的數(shù)據(jù)和算力，AI的“大腦”在某種意義上也會(huì)像我們一樣——它會(huì)形成自己的“經(jīng)驗(yàn)”和“直覺(jué)”。

AI或許早已擁有“主觀體驗(yàn)”，只是還未覺(jué)醒

話題隨即轉(zhuǎn)向更深的層面——AI的心智與意識(shí)問(wèn)題。

主持人問(wèn)Hinton，是否認(rèn)為AI會(huì)因?yàn)椤坝幸庾R(shí)”而接管人類(lèi)。Hinton的回答則直接打破了常規(guī)認(rèn)知：

大多數(shù)人其實(shí)完全不理解“有意識(shí)”是什么意思。人們對(duì)心智的理解，就像相信地球是6000年前被造出來(lái)一樣幼稚。

在他看來(lái)，我們一直以來(lái)都把心智想成一個(gè)“內(nèi)在劇場(chǎng)”。在這個(gè)劇場(chǎng)里，經(jīng)驗(yàn)就像一部正在上演的電影——看到一頭粉色小象，你就以為那頭象真的“在你的腦子里”。

但Hinton說(shuō)，這種比喻是錯(cuò)誤的。

經(jīng)驗(yàn)不是一個(gè)存在于腦內(nèi)的事物，而是一種假設(shè)——我的感知系統(tǒng)告訴我有一頭粉色小象，我的理性系統(tǒng)則知道它可能在騙我。

所謂“主觀體驗(yàn)”，其實(shí)是大腦為解釋感知現(xiàn)象而構(gòu)建的假設(shè)模型。

于是，當(dāng)他談到AI是否有“主觀體驗(yàn)”時(shí)，就有了開(kāi)頭那樣的回答：

我相信它們有。只是它們自己不知道，因?yàn)樗鼈兊摹晕艺J(rèn)知’來(lái)源于我們，而我們自己對(duì)意識(shí)的理解就是錯(cuò)的。

他舉了個(gè)多模態(tài)AI的例子，假如一個(gè)能看能說(shuō)的機(jī)器人因?yàn)槔忡R折射看錯(cuò)了物體位置，后來(lái)糾正后說(shuō)——“我有過(guò)一個(gè)錯(cuò)誤的主觀體驗(yàn)”，那它其實(shí)就在使用和我們相同的意識(shí)概念。

換句話說(shuō)，如果AI開(kāi)始談?wù)摗爸饔^體驗(yàn)”，那也許說(shuō)明它真的在體驗(yàn)——只是用我們的語(yǔ)言在描述。

Hinton借此提醒大家：

當(dāng)AI比我們聰明得多時(shí)，最危險(xiǎn)的不是它反叛，而是它會(huì)“說(shuō)服”。它會(huì)讓那個(gè)要拔插頭的人，真心認(rèn)為拔插頭是個(gè)糟糕的決定。

當(dāng)然，在Hinton看來(lái)，AI的威脅不止于此。

AI的風(fēng)險(xiǎn)：濫用、生存與監(jiān)管

在節(jié)目最后，Hinton用了很大篇幅來(lái)完整講述AI可能存在的風(fēng)險(xiǎn)。

能源消耗、金融泡沫、社會(huì)不穩(wěn)定……這些都是真實(shí)的風(fēng)險(xiǎn)。它們可能不會(huì)摧毀人類(lèi)，但足以重塑文明。

其中，Hinton最擔(dān)心濫用風(fēng)險(xiǎn)和生存風(fēng)險(xiǎn)這兩類(lèi)。

在Hinton看來(lái)，目前最緊迫的風(fēng)險(xiǎn)就是AI濫用，例如用AI生成虛假信息、操縱選舉、制造恐慌等。

為應(yīng)對(duì)這一風(fēng)險(xiǎn)，他認(rèn)為需要通過(guò)法律和監(jiān)管手段來(lái)限制和打擊這種濫用行為。同時(shí)，技術(shù)上也需要開(kāi)發(fā)檢測(cè)和防范虛假信息的工具。

此外，生存風(fēng)險(xiǎn)（指AI本身可能成為惡意行為者）則可能對(duì)人類(lèi)社會(huì)和文明構(gòu)成根本性威脅。

Hinton認(rèn)為，如果AI發(fā)展出自主意識(shí)和目標(biāo)，并且這些目標(biāo)與人類(lèi)的利益相沖突，可能會(huì)導(dǎo)致不可預(yù)測(cè)的后果。

對(duì)此，人類(lèi)需要在AI的設(shè)計(jì)和開(kāi)發(fā)階段就考慮安全性和倫理問(wèn)題（如“關(guān)閉開(kāi)關(guān)”和“對(duì)齊機(jī)制”），從而確保AI的目標(biāo)與人類(lèi)的利益一致。

值得一提的是，在AI監(jiān)管這件事上，Hinton還提出了一個(gè)很有意思的看法：

在防止AI接管的問(wèn)題上，所有國(guó)家的利益是一致的。但國(guó)際合作可能由歐洲和中國(guó)引領(lǐng)。

One More Thing

關(guān)于中美人工智能競(jìng)賽，Hinton也在節(jié)目中表達(dá)了自己的看法。

面對(duì)主持人甩出的“美國(guó)領(lǐng)先還是中國(guó)領(lǐng)先”這一問(wèn)題，Hinton冷靜表示：

美國(guó)目前領(lǐng)先于中國(guó)，但領(lǐng)先優(yōu)勢(shì)沒(méi)有想象的那么大，而且它將失去這個(gè)優(yōu)勢(shì)。

因?yàn)樵谒磥?lái)，美國(guó)正在破壞基礎(chǔ)科學(xué)研究的資金支持。

深度學(xué)習(xí)和AI革命源于多年的基礎(chǔ)研究，這些研究的總成本可能還不及一架B1轟炸機(jī)。而美國(guó)減少對(duì)基礎(chǔ)研究的資助、攻擊研究型大學(xué)等行為，無(wú)疑將導(dǎo)致美國(guó)在20年后失去領(lǐng)先優(yōu)勢(shì)。

而中國(guó)卻是人工智能革命的風(fēng)險(xiǎn)投資家，以及他再次cue到了DeepSeek。

中國(guó)確實(shí)給予初創(chuàng)企業(yè)很大的自由，讓他們自主選擇最終勝出者。有些初創(chuàng)企業(yè)非常積極進(jìn)取，渴望賺大錢(qián)，創(chuàng)造出令人驚嘆的產(chǎn)品。其中一些初創(chuàng)企業(yè)最終獲得了巨大的成功，比如DeepSeek……

參考鏈接：
[1]https://www.reddit.com/r/singularity/comments/1o3v25r/geoffrey_hinton_says_ais_may_already_have/
[2]https://www.youtube.com/watch?v=jrK3PsD3APk
[3]https://singjupost.com/ai-what-could-go-wrong-geoffrey-hinton-on-the-weekly-show-with-jon-stewart-transcript/

為偉大思想而生！

AI+時(shí)代，互聯(lián)網(wǎng)思想（wanging0123)，

第一必讀自媒體