清明，燒Token，祭圖靈

STORY

memorial.sh # Alan Turing ╔════════════╗ ║ ╭────────╮ ║ ║ │ ● ● │ ║ ║ │ ▽ │ ║ ║ │ ─── │ ║ ║ ╰────────╯ ║ ║ 1912—1954 ║ ╚════════════╝ echo "Can Machines Think?" Can Machines Think? # 七十年后 我們還在回答 點(diǎn) 擊 敬 香 (′-ω-`) 敬 清明 · 賽博禪心 ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ ~ ~ ~ ~ ~ the_apple_1954.sh _ ( ) / \ | | | )| \ / \_/ // 浸過(guò)氰化物 1954 · 曼徹斯特 他走了 被自己保衛(wèi)過(guò)的國(guó)家 化學(xué)閹割 (；ω；) ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ ~ ~ ▼ 點(diǎn)擊敬香 can_machines_think.sh ┌─────────┐ │ ? ? │ │ ┌─────┐ │ │ │ 0 1 │ │ │ │ 1 0 │ │ │ └─────┘ │ └────┬────┘ THINK ? 1950 Can Machines Think? 他發(fā)明了圖靈測(cè)試 AI 從這個(gè)問(wèn)題開(kāi)始 ( ′_ゝ`) ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ ~ ~ ▼ 繼續(xù)焚燒 enigma_cracked.sh ╔═══════════════╗ ║ E N I G M A ║ ║ ? ? ? ? ? ║ ║ ○ ○ ○ ○ ○ ║ ╚═══════════════╝ ↓ ↓ ↓ ██ CRACKED ██ 1943 · 布萊切利 造了 Bombe 破譯機(jī) 每天破解德軍密碼 二戰(zhàn)提前兩年結(jié)束 (｀?ω?′) ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ ~ ~ ▼ 繼續(xù)焚燒 turing_machine.sh ┌─┬─┬─┬─┬─┬─┐ │0│1│1│0│1│0│ └─┴─┴▲┴─┴─┴─┘ │ ┌──┴──┐ │ R/W │ └─────┘ 1936 · 圖靈機(jī) 一條紙帶 一個(gè)讀寫(xiě)頭 所有計(jì)算機(jī)的理論上限 那年他 24 歲 ( ˙?˙ ) ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ ~ ~ ▼ 繼續(xù)焚燒 birth_1912.sh ☆ ┌────────┐ │ · · │ │ ▽ │ │ │ ╰────────╯ ╲ ╱ ════ 1912 · 倫敦 Alan Turing 3 歲把玩具人 掰碎種進(jìn)土里 // 等著長(zhǎng)出更多 ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ ~ ~ ▼ 繼續(xù)焚燒 qingming.sh 乙巳年 · 清明 Alan Turing 1912 — 1954 計(jì)算機(jī)與人工智能之父 ~ ~ ~ ~ ~ ◆ ◆ ◆ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ ┌──┴───┴───┴──┐ └─────────────┘ 點(diǎn) 擊 祭 拜 (′-ω-`) 敬 清明 · 賽博禪心

清明燒 Token，祭圖靈，人工智能之父

他定義了三件事：計(jì)算、智能、如何訓(xùn)練

今天我們用 AI 寫(xiě)的每一行代碼、生成的每一張圖、完成的每一次對(duì)話，燒的都是他點(diǎn)的火

他定義了什么是「計(jì)算」

1936 年以前，computer 這個(gè)詞指的是人。政府機(jī)構(gòu)雇了一批年輕人，每天拿著鉛筆和紙，按公式一步步算數(shù)。職位就叫 computer，計(jì)算員

圖靈 24 歲，在劍橋。他想搞清楚一件事：「計(jì)算」到底是什么

他就去觀察那些計(jì)算員。一個(gè)計(jì)算員的全部動(dòng)作拆到最細(xì)，就三樣?xùn)|西：一張紙，一支筆，一套規(guī)則。從左往右讀數(shù)字，按規(guī)則寫(xiě)下新的數(shù)字，偶爾回頭檢查前面寫(xiě)的

圖靈把這個(gè)過(guò)程抽象成了一臺(tái)機(jī)器：一條無(wú)限長(zhǎng)的紙帶代替紙，一個(gè)讀寫(xiě)頭代替筆，一張規(guī)則表代替人腦。讀寫(xiě)頭在紙帶上來(lái)回移動(dòng)，按規(guī)則讀、寫(xiě)、擦

就這么個(gè)東西。后來(lái)叫「圖靈機(jī)」

然后圖靈證明了：任何一個(gè)計(jì)算員能算的東西，這臺(tái)機(jī)器都能算。同時(shí)也存在一些問(wèn)題，這臺(tái)機(jī)器算不了，不管你怎么設(shè)計(jì)規(guī)則都算不了

這臺(tái)機(jī)器從來(lái)沒(méi)被造出來(lái)。但 90 年過(guò)去了，你手里的 iPhone，訓(xùn)練 GPT-4 的幾萬(wàn)張 H100，在計(jì)算能力的理論上限上，和這臺(tái)紙上的機(jī)器一樣

沒(méi)有任何一臺(tái)真實(shí)的計(jì)算機(jī)，超過(guò)了一個(gè) 24 歲的人在紙上畫(huà)的東西

NVIDIA RTX 20 系列 GPU 的架構(gòu)代號(hào)，就叫 Turing

他定義了什么叫「智能」

1950 年，圖靈在一本哲學(xué)雜志上發(fā)了一篇論文，第一句話：機(jī)器能思考嗎

當(dāng)時(shí)沒(méi)人當(dāng)回事。反對(duì)的理由什么都有：機(jī)器沒(méi)有靈魂所以不能思考，機(jī)器只能按指令干活所以沒(méi)有原創(chuàng)力，機(jī)器不會(huì)悲傷不會(huì)寫(xiě)詩(shī)不會(huì)愛(ài)上一個(gè)人。一百年前計(jì)算機(jī)先驅(qū) Ada Lovelace（拜倫的女兒）就說(shuō)過(guò)：機(jī)器永遠(yuǎn)只能做人類(lèi)命令它做的事

圖靈在論文里逐條回應(yīng)。但他知道爭(zhēng)論「什么是思考」會(huì)沒(méi)完沒(méi)了

所以他做了一件聰明的事。跳過(guò)定義，直接設(shè)計(jì)了一個(gè)游戲

規(guī)則很簡(jiǎn)單：一個(gè)裁判同時(shí)跟兩個(gè)對(duì)象文字聊天，一個(gè)是人，一個(gè)是機(jī)器，裁判不知道哪個(gè)是哪個(gè)。分不出來(lái)，就算機(jī)器有智能

后來(lái)叫「圖靈測(cè)試」

他把一個(gè)沒(méi)法回答的哲學(xué)問(wèn)題，變成了一個(gè)可以動(dòng)手做的工程問(wèn)題

圖靈順手做了個(gè)預(yù)言：2000 年左右，一臺(tái) 1GB 內(nèi)存的計(jì)算機(jī)，在五分鐘對(duì)話中騙過(guò) 30% 的裁判，完全可能

GPT-4 和 Claude 已經(jīng)遠(yuǎn)超這個(gè)標(biāo)準(zhǔn)。他的時(shí)間線只差了 20 多年。內(nèi)存的預(yù)估倒是出奇地準(zhǔn)

他定義了怎么「訓(xùn)練」

同一篇論文里，圖靈寫(xiě)了一句：與其編程一個(gè)成年人的大腦，不如先造一個(gè)小孩，然后教他。做對(duì)了給獎(jiǎng)勵(lì)，做錯(cuò)了給懲罰，讓它自己摸索出規(guī)律

今天大模型就是這么練的。海量數(shù)據(jù)喂出基礎(chǔ)能力叫預(yù)訓(xùn)練，人類(lèi)反饋把它調(diào)準(zhǔn)叫 RLHF。這套邏輯，1950 年寫(xiě)下的

圖靈不是只寫(xiě)論文的人。他動(dòng)手

1948 年，他和朋友 David Champernowne 寫(xiě)了一個(gè)國(guó)際象棋算法，兩個(gè)人的姓拼在一起，取名「Turochamp」。算法能評(píng)估局勢(shì)，計(jì)算得失，選出最優(yōu)走法

問(wèn)題是當(dāng)時(shí)沒(méi)有計(jì)算機(jī)能運(yùn)行它

圖靈就自己當(dāng)計(jì)算機(jī)。拿著紙和筆，按算法一步步手算每一步棋。每步要算半小時(shí)

1952 年夏天，他用這種方式和同事 Alick Glennie 下了一盤(pán)完整的棋。圖靈扮演計(jì)算機(jī)，紙筆算，Glennie 正常下。棋譜完整記錄了下來(lái)

圖靈輸了。但這是有記錄以來(lái)，人類(lèi)第一次和「程序」對(duì)弈

同一時(shí)期，他寫(xiě)了一篇論文叫《智能機(jī)器》，系統(tǒng)討論了神經(jīng)網(wǎng)絡(luò)、學(xué)習(xí)機(jī)器、遺傳算法。上司讀完評(píng)價(jià)：小學(xué)生論文。壓下不發(fā)

那篇論文 20 年后才面世。今天看，是人類(lèi)最早系統(tǒng)討論 AI 的文件之一

一個(gè)人干完了三件事

定義計(jì)算的邊界，定義智能的標(biāo)準(zhǔn)，定義訓(xùn)練的路線

「人工智能」這個(gè)詞 1956 年才被發(fā)明出來(lái)。圖靈 1954 年去世，沒(méi)等到命名的那天

1966 年，ACM 設(shè)立了「圖靈獎(jiǎng)」，計(jì)算機(jī)領(lǐng)域的諾貝爾獎(jiǎng)。2018 年頒給了 Hinton、LeCun、Bengio，理由是深度學(xué)習(xí)

用他名字命名的獎(jiǎng)，頒給了讓 AI 真正跑起來(lái)的人。從命名到兌現(xiàn)，隔了半個(gè)世紀(jì)

那個(gè)蘋(píng)果

1938 年秋天，26 歲的圖靈和朋友去看了迪士尼的《白雪公主》。邪惡女巫把蘋(píng)果放進(jìn)毒湯，念著：「讓蘋(píng)果浸滿這湯，滲入沉睡與死亡」。他對(duì)這段臺(tái)詞念念不忘

1954 年 6 月 7 日，曼徹斯特。女管家推開(kāi)臥室門(mén)，床頭放著一個(gè)咬了一口的蘋(píng)果，浸過(guò)氰化物

他 41 歲。兩年前因?yàn)樗饺松畋欢ㄗ?，被迫接受了一年的?qiáng)制激素注射。一個(gè)幫英國(guó)贏了二戰(zhàn)的人，被這樣對(duì)待

后來(lái)，蘋(píng)果公司 Logo 被傳是紀(jì)念圖靈。設(shè)計(jì)師否認(rèn)了。但喬布斯說(shuō)了一句：

God, we wish it were. It's just a coincidence.

我希望是真的

2008 年 WWDC

2008 年 WWDC，喬布斯請(qǐng)了個(gè) 23 歲的年輕人上臺(tái)演示 App Store 應(yīng)用。那人叫 Sam Altman。后來(lái)他創(chuàng)建了 OpenAI，OpenAI 又走出來(lái)七個(gè)人做了 Claude

往回看這條線：Claude → OpenAI → Sam Altman → 蘋(píng)果的舞臺(tái) → 被咬了一口的 Logo → Alan Turing

說(shuō)起來(lái)，圖靈、蘋(píng)果掌門(mén)人 Tim Cook、OpenAI 的 Sam Altman，這三個(gè)人還有一個(gè)共同點(diǎn)。你猜是什么？

從罪犯到鈔票

2009 年，英國(guó)首相代表政府正式道歉

2013 年，女王簽署皇家赦免令

2017 年，「圖靈法案」通過(guò)，追溯赦免所有因同樣原因被定罪的人

2021 年，圖靈被印上了新版 50 英鎊紙幣

從罪犯到鈔票，69 年

清明，去用 AI 創(chuàng)造點(diǎn)什么吧