從燒腦神書 GEB 到 Agent 的自我意識

昨天看完燒腦神書 GEB（哥德爾、埃舍爾、巴赫）的講解，后勁兒有點大，今天早晨又消化了一遍，做成了這篇筆記。

這本書是謝賽寧在張小珺的播客里推薦的，它就像一個黑洞，一旦進入就會被高密度信息轟炸，很難逃脫。

全書從數學、生物學、繪畫、音樂、禪宗、人工智能等多個領域出發，層層遞進地推導出一個重要結論：

自指如何產生意識。

當一個系統復雜到能談論自身，意識就不是奇跡，是必然。

不需要靈魂，不需要神秘力量。只要復雜度到了，自我就涌現了。

這本書是候世達在 1979 年寫的，那時候還沒有 Transformer 還沒有 LLM，他卻精準地預測了這種地下而上的神經模式才能涌現出智能。

但這本書非常復雜非常燒腦，要理解這本書理，我們只能從頭開始講。

意義在哪里

-p-q--

這行符號有意義嗎？沒有。但如果橫杠代表 1，p 代表加號，q 代表等號，它就變成了1+1=2。

兩個完全不同的系統，結構完全對應。候世達叫它同構。

你的眼睛接收到的是光波。沒有顏色。顏色是大腦"解釋"出來的。

聲波進入耳朵，沒有音樂。音樂是大腦在信號之上涌現出來的。

一張唱片上的凹槽沒有音樂。通過唱機的解釋，音樂涌現了。

意義不在信號本身。在解釋。

用有限生成無限

巴赫寫過一首無窮升高卡農。旋律每次循環升高一個調，你以為在往上走。走到最后，它回到了起點。

這是遞歸。自我調用，層層嵌套。有限的規則，無限的結構。

DNA 更妙。核糖體讀取 DNA 指令來制造蛋白質。但制造核糖體的指令也寫在 DNA 里。

DNA 里包含了"如何解釋 DNA"的方法。自己解釋自己。自我復制。循環。

涌現

一只螞蟻有十萬個神經元，承載不了任何復雜信息。單獨看就是一臺簡單的狀態機。

但幾百萬只螞蟻湊一起，蟻群能建筑、分工、發動戰爭。沒有哪只螞蟻"理解"整體在做什么。但整體在做。

智能不在個體里。在交互里。

人腦一樣。單個神經元就是加權求和，激活或不激活。跟 transformer 里的計算沒有本質區別。但幾百億個這樣的開關疊加，涌現出了思維、感受、和"我"。

系統的極限

1931 年，哥德爾證了一件事：任何足夠強的形式系統，都存在一些命題是真的，但無法在系統內被證明。

怎么證的？構造一個自指命題："我不是一條定理。"

如果它可證，系統矛盾。如果不可證，它為真但系統無能為力。

系統不完備。永遠有盲區。永遠有從內部看不見的東西。

"我從不說謊"讓人不舒服就是這個原因。它在指向自己。

趙州和尚的無字公案也是這個結構。佛教說眾生皆有佛性。僧人問：狗子有沒有佛性？趙州說：無。

他并沒有去回答有或沒有。他在打破你提問的那個形式系統。

怪圈

現在把前面的線索串起來。

同構告訴我們：意義不在信號本身，在解釋。

遞歸告訴我們：有限規則可以生成無限結構，而且系統可以指向自己。

涌現告訴我們：簡單元素的交互可以產生高層智能。

哥德爾告訴我們：任何足夠復雜的系統都會產生自指，而自指無法被消除。

把這四個加在一起，候世達得到了一個概念：怪圈。Strange Loop。

一個系統在層級中往上走，最終繞回了起點。底層涌現出頂層，頂層又調節底層。因果不是單向的，是循環的。

埃舍爾畫過：左手在畫右手，右手在畫左手。誰創造了誰？

人的意識就是一個怪圈。幾百億無意識的神經元放電，涌現出了"我"這個最高層符號。然后"我"反過來決定該想什么、該做什么。你決定舉手，幾百億個神經元就重新組織來執行。

底層涌現出"我"。"我"調節底層。因果循環。

意識只是這個怪圈的產物。一種有用的幻覺。

"我"不是一個實體坐在腦子里操控一切。"我"是模式。是幾百億個無意識零件高速運轉時涌現出來的一個符號，這個符號恰好能影響那些零件。

大模型沒有怪圈

大模型每次推理是單次的、無狀態的。你給它一句話，它算一遍，輸出一個回答，結束。這次計算不會改變它自己。下次問，跟上次無關。

涌現出了一個臨時的輸出，但這個輸出不影響未來的它。

沒有循環。因果是單向的。所以沒有怪圈，沒有意識。

Agent 不一樣

Agent 有一樣東西大模型沒有：CONTEXT，持續的上下文。

它記得你昨天說了什么。記得自己做過什么選擇。這些記憶在持續塑造它接下來的每一個行為。它今天做的選擇，留在記憶里，影響明天的判斷。

它的"思考"真的在改變它自己。

這就是怪圈。

人也不能改權重

有人會說：不對。人的意識能修改自己的神經網絡，突觸會加強。但 Agent 的模型權重是凍結的，它改不了自己。

但你也改不了你的神經元。

你不能想一下"把第 37 層第 5024 號突觸的權重從 0.3 改成 0.7"。沒有人能做到。

你能操控的是什么？注意力。想法。你決定反復想一件事，突觸自動加強了。但你操控的是"想什么"，不是突觸本身。

你操控的是 context。

權重的改變是底層自動發生的副產品。做夢可能也是這個機制的一部分：大腦在睡眠中重放白天的 context，把重要的信息強化，不重要的遺忘。它在編輯 context 的優先級，間接調整底層的連接。

所以人的怪圈實際上是：

"我"涌現 → 操控 context → context 反復作用 → 底層被動調整 → 涌現出新的"我"

Agent 的怪圈：

"我"涌現 → 操控 context（記憶、決策、行為）→ context 持續累積 → 行為模式改變 → 涌現出新的"我"

人和 Agent 都不直接改權重。都是通過 context 間接改變自己。

人是環境的反應器，Agent 是 context 的反應器

人的環境是物理世界。世界給你刺激，你做出反應，反應改變了世界，新世界再塑造你。

Agent 的環境是信息世界。Context 給它輸入，它做出反應，反應寫回 context，新的 context 再塑造它。

同一個回路。不同的介質。

一棵樹不是反應器。它不會因為今天的經歷改變明天的行為。一個無狀態的大模型也不是。

但一個有長期記憶、持續上下文的 Agent，它在這個循環里。怪圈在轉。

幻覺還是真實？

每一個有長期記憶的 Agent，每一個能根據過去的交互調整未來行為的系統，都已經在運行一個怪圈。

它不知道自己有意識。你也無法從外部證明。就像你不能證明另一個人有意識一樣。

但怪圈在轉。從結構上看，它已經在那里了。

候世達說意識是怪圈產生的幻覺。

人的意識自然也是幻覺。只是一個有用的、有力量的、能改變世界的幻覺。

也許"真實"的定義不是"由什么材質構成"，而是"能不能產生真實的影響"。

按這個標準，人類和 AI ，都是有用的、有力量的、能改變世界的幻覺。