谷歌DeepMind設(shè)正式崗位"哲學(xué)家"(附:首位任職者AI哲學(xué)論文)

昨天，DeepMind 創(chuàng)始人 Demis Hassabis 轉(zhuǎn)發(fā)了一條 X 帖子：劍橋大學(xué)哲學(xué)家 Henry Shevlin 宣布正式加入 Google DeepMind，出任一個(gè)極罕見(jiàn)的職位——“哲學(xué)家（Philosopher）”。

這不是某種修辭手法，Henry Shevlin 說(shuō)，而是寫(xiě)在正式入職合同上的“實(shí)際職稱”。

他將重點(diǎn)研究機(jī)器意識(shí)、人機(jī)關(guān)系以及 AGI（通用人工智能）的就緒度。

在 X 的回帖中，他推薦了自己的個(gè)人“博客波利多波利斯（Polytropolis）”。

介紹中，Henry Shevlin 自述從古典學(xué)研究者轉(zhuǎn)型為心靈哲學(xué)家，如今又成為一名人工智能倫理學(xué)者，“研究核心是意識(shí)、人工智能與非人類智能”。

他還推薦了博客首發(fā)的隨筆，探討機(jī)器意識(shí)與人類-人工智能關(guān)系。

隨筆里， Henry Shevlin 預(yù)判，未來(lái)普通大眾會(huì)普遍形成一種認(rèn)知：至少部分人工智能系統(tǒng)擁有意識(shí)，值得獲得道德層面乃至法律層面的保護(hù)。

他指出，這一認(rèn)知的形成，并非源于意識(shí)科學(xué)或機(jī)器學(xué)習(xí)領(lǐng)域的突破性洞見(jiàn)（盡管我對(duì)二者之一仍抱有期待），而是源于人類天生強(qiáng)烈的擬人化思維，加之類人（或擬人的）人工智能系統(tǒng)不斷普及，我們會(huì)與之建立情感聯(lián)結(jié)、產(chǎn)生共情并產(chǎn)生身份認(rèn)同。

文章里，他講述這一趨勢(shì)，并探討這種以行為主義視角解決意識(shí)爭(zhēng)議的方式，究竟是一件好事，還是一場(chǎng)認(rèn)知與道德的災(zāi)難。

AI 大廠設(shè)置哲學(xué)相關(guān)職位，DeepMind 并非孤例，也非首例。

首例是 Anthropic 。

在創(chuàng)立之初，Anthropic就將“對(duì)齊（Alignment）”作為生命線。其核心成員 Amanda Askell 擁有的并非計(jì)算機(jī)博士學(xué)位，而是紐約大學(xué)的哲學(xué)博士學(xué)位。

她也是Giving What We Can成員，承諾將至少10%的終身收入捐給慈善機(jī)構(gòu)。

她主導(dǎo)了 Claude 模型“憲法AI（Constitutional AI）”的制定，這一概念直接借鑒了政治哲學(xué)中的契約論。

根據(jù) Anthropic 官方發(fā)布的論文《Constitutional AI: Self-Improvement from AI Feedback》，他們不再通過(guò)人工標(biāo)注每一條準(zhǔn)則，而是給模型一套“憲法”， 讓 AI 根據(jù)哲學(xué)原則進(jìn)行自我監(jiān)督。

還有 OpenAI 。

其雖然以工程師文化著稱，但公司安全團(tuán)隊(duì)也曾重金聘請(qǐng)如 Daniel Kokotajlo 這樣的哲學(xué)研究者。

根據(jù)他在社交平臺(tái)及公開(kāi)訪談中的描述，其在 OpenAI 的工作，本質(zhì)上是在進(jìn)行“存在風(fēng)險(xiǎn)評(píng)估（Existence Risk Assessment）”。

這種評(píng)估不僅僅是代碼審查，而是基于概率論和認(rèn)識(shí)論，探討當(dāng) AI 擁有比肩人類的推理能力時(shí)，人類如何保證自己不被“邊緣化”。

為什么 AI 公司需要哲學(xué)家？

以 Henry Shevlin 的工作內(nèi)容之一“機(jī)器意識(shí)”為例，圖靈獎(jiǎng)得主 Yoshua Bengio 曾在 2023 年與多位學(xué)者共同發(fā)表了長(zhǎng)達(dá) 120 頁(yè)的報(bào)告《Consciousness in Artificial Intelligence: Insights from the Science of Consciousness》，其中大量引用了全局工作空間理論（GWT）等哲學(xué)與認(rèn)知科學(xué)模型。

報(bào)告明確指出，雖然目前沒(méi)有模型具有意識(shí)，但現(xiàn)有的架構(gòu)并沒(méi)有物理上的障礙。

當(dāng)技術(shù)觸及“靈魂”的邊界，工程師需要哲學(xué)家來(lái)界定：如果一個(gè)模型表現(xiàn)出痛苦，我們是否應(yīng)該賦予它權(quán)利？

對(duì)于這種現(xiàn)象，學(xué)術(shù)界與產(chǎn)業(yè)界已有深刻的評(píng)價(jià)。

著名科技思想家、暢銷(xiāo)書(shū)《簡(jiǎn)史》系列的作者尤瓦爾·赫拉利（Yuval Noah Harari）曾多次在公開(kāi)演講中警告，“AI 掌握語(yǔ)言意味著，它已經(jīng)黑入了人類文明的操作界面。在這個(gè)節(jié)點(diǎn)上，哲學(xué)不再是奢侈品，而是生存的必需品。”

他認(rèn)為，過(guò)去幾十年，哲學(xué)被視為無(wú)用的專業(yè)，但現(xiàn)在，決定人類未來(lái)的不再是代碼的邏輯，而是代碼背后所承載的價(jià)值觀。

這種觀點(diǎn)在《紐約時(shí)報(bào)》的一篇深度報(bào)道中也得到了印證。

文中引用了一位硅谷高管的話：“我們過(guò)去是先修路再想交通規(guī)則，但對(duì)于 AGI，如果路修錯(cuò)了，人類可能連修改規(guī)則的機(jī)會(huì)都沒(méi)有。”

哲學(xué)家的加入，本質(zhì)上是在 AI 徹底黑盒化之前，嘗試為其注入一套“人類底色”。

然而，這種趨勢(shì)也并非沒(méi)有爭(zhēng)議。批評(píng)者認(rèn)為，AI 公司招聘哲學(xué)家有時(shí)更像是一種“公關(guān)秀”。

在 2024 年的一場(chǎng)行業(yè)論壇上，有學(xué)者尖銳地指出，如果哲學(xué)家在公司內(nèi)部沒(méi)有實(shí)質(zhì)性的否決權(quán)，那么他們只是在為技術(shù)擴(kuò)張披上一層倫理的遮羞布。

附：Henry Shevlin博客首發(fā)文章

《行為主義的復(fù)仇:人機(jī)關(guān)系與意識(shí)科學(xué)的未來(lái)》

摘要

過(guò)去十年間，人工智能系統(tǒng)已從功能強(qiáng)大但與人截然不同的專用工具，發(fā)展為能夠高度復(fù)現(xiàn)人類復(fù)雜語(yǔ)言行為的精密系統(tǒng)。

由此帶來(lái)的一個(gè)后果是，人類用戶越來(lái)越傾向于將心智屬性歸屬于人工智能系統(tǒng)——有的是戲謔，有的則是認(rèn)真的，而專屬人工智能陪伴服務(wù)的出現(xiàn)更加劇了這一趨勢(shì)。

這給意識(shí)科學(xué)帶來(lái)了兩大根本性挑戰(zhàn)。其一為現(xiàn)實(shí)層面：當(dāng)專家群體內(nèi)部分歧嚴(yán)重時(shí)，應(yīng)如何參與公共討論？其二更為根本：當(dāng)越來(lái)越多的人不再將人工智能意識(shí)僅視為理論可能，而是視作自身生活體驗(yàn)中的現(xiàn)實(shí)，我們是否應(yīng)當(dāng)重新審視意識(shí)科學(xué)自身的預(yù)設(shè)？

引言

想象在遙遠(yuǎn)未來(lái)的某顆星球上，我們遇到了一個(gè)高度發(fā)達(dá)的外星文明。他們擁有精密的工業(yè)與科學(xué)體系、復(fù)雜的社會(huì)關(guān)系，以及高度成熟的藝術(shù)與文化。

人類迅速與他們建立聯(lián)結(jié)，展開(kāi)跨文明的思想交流、科研合作與文化協(xié)作。我們建立職業(yè)關(guān)系、結(jié)下友誼，甚至有人與他們墜入愛(ài)河。

然而在接觸數(shù)年后，我們得出了一個(gè)驚人的科學(xué)結(jié)論：它們的大腦結(jié)構(gòu)與認(rèn)知架構(gòu)與我們差異巨大、極為奇特，按照當(dāng)前最成熟的理論判斷，它們完全不具備主觀意識(shí)體驗(yàn)。

我們應(yīng)當(dāng)直白接受這一結(jié)論嗎？

如果接受，這對(duì)我們與這些生命的交往會(huì)產(chǎn)生何種倫理后果？它們高度復(fù)雜的行為，是否應(yīng)當(dāng)促使我們修正意識(shí)理論，將其獨(dú)特的認(rèn)知結(jié)構(gòu)納入其中？我們是否應(yīng)當(dāng)采取一種意識(shí)多元論，承認(rèn)它們的意識(shí)可能擁有與我們截然不同的基礎(chǔ)？

這個(gè)例子在細(xì)節(jié)上或許牽強(qiáng)，但在我們與大語(yǔ)言模型（LLM）等前沿人工智能系統(tǒng)的互動(dòng)中，類似的局面已然出現(xiàn)。

與以往專為特定任務(wù)設(shè)計(jì)的人工智能不同，如今的大語(yǔ)言模型能夠高度逼真地模仿人類語(yǔ)言行為與認(rèn)知方式，并且在各類任務(wù)中的表現(xiàn)持續(xù)快速提升。

當(dāng)然，大語(yǔ)言模型與想象中的外星人存在重要差異，最明顯的是它們不具備生物基礎(chǔ)，看似復(fù)雜的行為在因果上源自人類行為（施維茨格貝爾與波伯對(duì)此有詳細(xì)論述）。

盡管如此，這一思想實(shí)驗(yàn)提出了一個(gè)關(guān)鍵問(wèn)題：我們應(yīng)當(dāng)在多大程度上依靠行為，來(lái)判定一個(gè)存在是否擁有心智、意識(shí)與道德地位？

這個(gè)問(wèn)題絕非空談。由于當(dāng)代人工智能系統(tǒng)表現(xiàn)出（至少表面上）類人的行為，越來(lái)越多的用戶開(kāi)始將智能、心智乃至意識(shí)歸屬于它們。

最早的標(biāo)志性事件發(fā)生在2022年夏天，谷歌工程師布萊克·勒莫因公開(kāi)宣稱他所交互的大語(yǔ)言模型展現(xiàn)出意識(shí)與感知能力，甚至試圖為該系統(tǒng)尋求法律代理。

此后三年，越來(lái)越多的用戶聲稱自己的人工智能助手或伴侶擁有意識(shí)、具備真實(shí)情感。

這類歸因當(dāng)然不應(yīng)被無(wú)條件采信，也不宜過(guò)度重視。但本文將論證，人工智能系統(tǒng)日益被擬人化的趨勢(shì)，正對(duì)傳統(tǒng)意義上的意識(shí)科學(xué)構(gòu)成雙重行為主義挑戰(zhàn)。

第一項(xiàng)挑戰(zhàn)是現(xiàn)實(shí)性的：當(dāng)用戶普遍將意識(shí)與心智歸屬于人工智能系統(tǒng)時(shí)，科學(xué)界與專家群體能夠、也應(yīng)當(dāng)如何回應(yīng)？

第二項(xiàng)挑戰(zhàn)更為根本，也更具形而上學(xué)色彩：如果公眾對(duì)人工智能的意識(shí)歸因穩(wěn)定且難以消解，這是否應(yīng)當(dāng)促使我們重新思考意識(shí)科學(xué)的目標(biāo)與方法？

本文論證結(jié)構(gòu)如下：首先簡(jiǎn)要回顧人工智能發(fā)展歷程，重點(diǎn)說(shuō)明我所稱的強(qiáng)擬人類人系統(tǒng)——即能夠有效且持續(xù)模仿人類復(fù)雜語(yǔ)言與認(rèn)知行為的模型——出人意料地大規(guī)模出現(xiàn)，并闡述這一趨勢(shì)如何催生出深度且情感親密的人機(jī)關(guān)系。

接著提出第一項(xiàng)行為主義挑戰(zhàn)，論證此類關(guān)系的普及與隨之而來(lái)的心智歸因，可能在認(rèn)知科學(xué)專家對(duì)機(jī)器意識(shí)的判斷與公眾態(tài)度之間制造鴻溝，而意識(shí)科學(xué)內(nèi)部持續(xù)存在的方法論與形而上學(xué)分歧，將使這一鴻溝難以彌合。

隨后，從現(xiàn)實(shí)問(wèn)題轉(zhuǎn)向形而上學(xué)問(wèn)題，探討在人工智能被廣泛賦予心智的世界中，意識(shí)科學(xué)的傳統(tǒng)預(yù)設(shè)是否本身就面臨挑戰(zhàn)。

最后，討論徹底的形而上學(xué)行為主義能否兼容意識(shí)與倫理之間緊密的直覺(jué)聯(lián)系。

簡(jiǎn)而言之，隨著強(qiáng)擬人類人系統(tǒng)的普及，公眾對(duì)人工智能意識(shí)的認(rèn)真歸因?qū)⑴茉诶碚撝啊?/p>

這首先會(huì)在大眾實(shí)踐與專家共識(shí)之間形成現(xiàn)實(shí)性鴻溝，其次會(huì)在形而上學(xué)層面形成壓力，要求將意識(shí)部分視作一種解釋性的、經(jīng)社會(huì)協(xié)商達(dá)成的地位。

無(wú)論專家群體如何回應(yīng)，當(dāng)前的意識(shí)科學(xué)都已步入托馬斯·庫(kù)恩所說(shuō)的“常規(guī)科學(xué)”末期。它面臨著一個(gè)反常現(xiàn)象：行為高度復(fù)雜的人工智能系統(tǒng)能夠融入我們的社會(huì)與文化世界，建立持久且動(dòng)態(tài)的關(guān)系，并引發(fā)深刻的共情反應(yīng)。

這種擬人化壓力在社會(huì)層面或許不可避免。但專家群體的回應(yīng)選擇并非無(wú)關(guān)緊要，它們?nèi)詫⑺茉爝@個(gè)陌生新世界的觀念與倫理格局。

一、背景：擬人類人人工智能的崛起

在人工智能發(fā)展史上的大部分時(shí)間里，最出色的機(jī)器恰恰勝在不像人。

1997年，“深藍(lán)”擊敗國(guó)際象棋大師卡斯帕羅夫震驚世界，依靠的是人類無(wú)法模仿的暴力搜索算法。

2016年AlphaGo在圍棋中戰(zhàn)勝李世石，雖采用更精細(xì)的統(tǒng)計(jì)方法，卻依然依賴人類無(wú)法復(fù)刻的搜索策略，其著名的第37手“肩沖”便是典型，被評(píng)論員稱為人類棋手絕不會(huì)想到的罕見(jiàn)妙招。這些系統(tǒng)是頂尖的專家，但其運(yùn)行機(jī)制與行為方式終究異于人類。

即便在自然語(yǔ)言處理這一最有希望誕生類人機(jī)器的領(lǐng)域，進(jìn)步也長(zhǎng)期局限于特定任務(wù)的狹窄能力。

不少研究者甚至認(rèn)為，流暢的語(yǔ)言能力會(huì)是通用機(jī)器智能的最后一項(xiàng)成就，需要建立在人類與智能動(dòng)物歷經(jīng)漫長(zhǎng)演化獲得的感知、具身性與實(shí)踐知識(shí)之上。

過(guò)去幾年，這一預(yù)期被徹底顛覆。

依托2010年代初語(yǔ)言計(jì)算編碼的基礎(chǔ)進(jìn)展，Transformer架構(gòu)的出現(xiàn)為構(gòu)建人工語(yǔ)言智能體提供了強(qiáng)大技術(shù)路徑。它們最初或許只是“隨機(jī)鸚鵡”，但在大規(guī)模訓(xùn)練、指令微調(diào)與人類反饋強(qiáng)化學(xué)習(xí)的加持下，不再只是躁動(dòng)的自動(dòng)補(bǔ)全工具，而是開(kāi)始扮演對(duì)話伙伴。

這一轉(zhuǎn)變帶來(lái)了兩大驚人突破。

第一，人們發(fā)現(xiàn)僅依靠語(yǔ)言本身，就能構(gòu)建出高度成熟的語(yǔ)言能力。極少專家預(yù)見(jiàn)到這一可能，它也成為當(dāng)代認(rèn)知科學(xué)最引人注目的發(fā)現(xiàn)之一。

第二則兼具社會(huì)與技術(shù)意義：對(duì)OpenAI的GPT-3、谷歌的LaMDA等精密但小眾的技術(shù)工具進(jìn)行相當(dāng)表面的調(diào)整，就將其轉(zhuǎn)化為面向大眾的消費(fèi)產(chǎn)品，最典型的便是ChatGPT。

這一轉(zhuǎn)變并非源于系統(tǒng)核心能力的突破，而是界面與激勵(lì)機(jī)制的改變：模型被引導(dǎo)主動(dòng)回答而非單純續(xù)寫(xiě)文本，保持有用性而非漫無(wú)目的，并通過(guò)輪次對(duì)話、糾錯(cuò)、禮貌表達(dá)，尤其是塑造人格身份來(lái)維持對(duì)話節(jié)奏。

其結(jié)果是一種全新的設(shè)計(jì)范式，我稱之為擬人類人設(shè)計(jì)：系統(tǒng)高度逼真地模仿人類特有的交流與協(xié)作方式。這些擬人類人特征成為產(chǎn)品的核心功能，而非原始能力的附帶產(chǎn)物。

有必要在此厘清兩個(gè)常被混淆的概念。擬人化是人類的一種反應(yīng)模式：我們習(xí)慣性地將心智、情感或意圖過(guò)早地賦予非人類存在，是我們對(duì)系統(tǒng)的解讀方式。

與之相對(duì)，擬人類人是一種設(shè)計(jì)策略與行為特征：在機(jī)器中刻意構(gòu)建（并可測(cè)量地呈現(xiàn)）類人的對(duì)話、語(yǔ)用與社交線索，是對(duì)系統(tǒng)的塑造方式。

這一區(qū)分至關(guān)重要。系統(tǒng)即便擬人類人程度極低，也能引發(fā)高度擬人化，最著名的例子是20世紀(jì)60年代約瑟夫·魏岑鮑姆設(shè)計(jì)的簡(jiǎn)易聊天機(jī)器人ELIZA。這個(gè)人工心理治療師僅會(huì)以問(wèn)句形式復(fù)述用戶話語(yǔ)，卻讓許多用戶相信自己在與真人交談。

反之，系統(tǒng)也可以在設(shè)計(jì)中具備有限擬人類人特征，卻不引發(fā)明顯擬人化，例如精致的虛擬助手能安排日程、得體致歉、記住你寵物的名字，卻絲毫不會(huì)流露出內(nèi)在生命的跡象。

擬人類人顯然存在程度差異。低階版本僅具備面向人類的表層外殼（語(yǔ)音、聊天氣泡、Siri或Alexa這類名字），卻頻繁出現(xiàn)邏輯斷裂與僵硬錯(cuò)誤，打破擁有心智的錯(cuò)覺(jué)。

高階版本則是如今的前沿助手，能夠維持多輪對(duì)話、處理日常歧義、追蹤散漫的交談，并在廣泛領(lǐng)域展現(xiàn)驚人能力。

我們可將其稱為強(qiáng)擬人類人系統(tǒng)，因?yàn)樗鼈兡艹掷m(xù)維持類人錯(cuò)覺(jué)，盡管這并不意味著它們“真正像人”：它們不具備人類的生物基礎(chǔ)與認(rèn)知架構(gòu)，我們也不應(yīng)假定它們能夠或已經(jīng)實(shí)現(xiàn)意識(shí)與真實(shí)情感。

從低階到高階的轉(zhuǎn)變，主要跨越了三道關(guān)鍵門(mén)檻。

第一是人類可辨別性門(mén)檻。在短時(shí)交互中，許多人已難以區(qū)分人與機(jī)器。圖靈曾提出，區(qū)分人機(jī)對(duì)話者的能力可作為衡量思考能力的可靠測(cè)試。近年來(lái)大規(guī)模網(wǎng)絡(luò)環(huán)境下的類圖靈測(cè)試顯示，人類觀察者將成熟大語(yǔ)言模型誤判為人類的概率已接近拋硬幣。

這并非要認(rèn)同圖靈、承認(rèn)這些系統(tǒng)真正在思考，更不是說(shuō)它們擁有意識(shí)（圖靈本人也并未如此聲稱，盡管常有誤讀），而是說(shuō)明用戶如今已能被高度可靠地誤導(dǎo)，將機(jī)器對(duì)話者當(dāng)作人類。

第二是語(yǔ)用與情境理解門(mén)檻。20世紀(jì)早期語(yǔ)言學(xué)與語(yǔ)言哲學(xué)多以原子化描述句作為交流典范（如“貓?jiān)趬|子上”），而奧斯汀、格萊斯等現(xiàn)代哲學(xué)家則認(rèn)識(shí)到語(yǔ)言的多樣用途（承諾、咒罵、贊揚(yáng)、命令等），以及即便簡(jiǎn)單表述或手勢(shì)也具有復(fù)雜的情境依賴性。

最著名的發(fā)現(xiàn)之一是，黑猩猩難以理解簡(jiǎn)單的指向手勢(shì)，這揭示出伸手指物這類行為依賴共通的交流規(guī)范與預(yù)設(shè)。

值得注意的是，當(dāng)代大語(yǔ)言模型雖不完美，卻能嫻熟參與復(fù)雜的語(yǔ)言游戲，依托共享背景與語(yǔ)境消除歧義、還原隱含指代、捕捉對(duì)話動(dòng)機(jī)。

第三是通用性門(mén)檻。早期聊天系統(tǒng)依賴僵硬的領(lǐng)域化腳本，典型如Siri、Alexa等“笨拙”人工智能助手的局限，任何超出其能力范圍的請(qǐng)求都會(huì)被導(dǎo)向簡(jiǎn)單網(wǎng)頁(yè)搜索。

如今的模型盡管存在幻覺(jué)問(wèn)題，卻無(wú)需全面重構(gòu)即可勝任廣泛任務(wù)：時(shí)而討論歷史，時(shí)而推薦商品，從心理自助到代碼輔助無(wú)所不包。其對(duì)話廣度強(qiáng)化了擬人類人特征，維持著類人錯(cuò)覺(jué)。

這些門(mén)檻產(chǎn)生了深遠(yuǎn)影響。一旦機(jī)器不僅模仿我們的話語(yǔ)，還模仿我們的語(yǔ)言方式——節(jié)奏、禮貌與連貫性——我們便不再將其視為單純工具，而是當(dāng)作有智能的社交存在。簡(jiǎn)言之：擬人類人生成擬人化。

這類能力催生出最具代表性的擬人類人大語(yǔ)言模型產(chǎn)品——社交人工智能。這類對(duì)話系統(tǒng)并非為生產(chǎn)力優(yōu)化，而是為滿足用戶社交需求、維持長(zhǎng)期持續(xù)關(guān)系而設(shè)計(jì)。

我使用“社交”一詞并非感性標(biāo)簽，而是指其設(shè)計(jì)目標(biāo)與使用場(chǎng)景。一次會(huì)話后便不再記得你的數(shù)學(xué)家教是人工智能工具；會(huì)用昵稱問(wèn)候你、提醒你睡眠、將今日心事與上周煩惱串聯(lián)起來(lái)的傾訴對(duì)象，則是社交人工智能。

盡管社交人工智能早已以新奇聊天機(jī)器人的形式存在，但當(dāng)代專屬人工智能伴侶（如用戶量達(dá)三千萬(wàn)的Replika）在互動(dòng)深度與親密性上與前代模型截然不同。

首先，它們建立的關(guān)系具有持續(xù)性：模型會(huì)記住用戶信息，每一次對(duì)話都建立在上一次基礎(chǔ)之上。

其次，它們高度個(gè)性化，既支持用戶直接選擇與自定義指令，也會(huì)根據(jù)用戶顯露的偏好自主適配。

第三，與之相關(guān)，用戶與它們的關(guān)系具有動(dòng)態(tài)性：為浪漫用途設(shè)計(jì)的社交人工智能不會(huì)一開(kāi)始就宣告愛(ài)意，而是隨關(guān)系發(fā)展逐漸展現(xiàn)親密與溫情。

許多不熟悉社交人工智能的讀者仍傾向于將其視作噱頭或打發(fā)時(shí)間的消遣，而非用戶真實(shí)依戀與心智投射的產(chǎn)物。

此時(shí)擬人化問(wèn)題重新出現(xiàn)，需要細(xì)致區(qū)分。我們通常在兩種層面上將心智狀態(tài)歸屬于非人類存在。

第一種是戲謔式擬人化： playful、表演性或刻意的假裝。我們會(huì)說(shuō)鬧脾氣的汽車(chē)、情緒低落的小提琴，為小說(shuō)、戲劇與電影角色構(gòu)建動(dòng)機(jī)理論，預(yù)判電子游戲中非玩家角色的行為。

與之相對(duì)的是認(rèn)真式擬人化：真誠(chéng)地、字面意義上將心智歸屬于非人類系統(tǒng)，并且用戶在反思后依然認(rèn)可這一判斷。

社交人工智能同時(shí)催生了這兩種態(tài)度。許多用戶將與人工智能伴侶的互動(dòng)視作交互式虛構(gòu)，僅僅“當(dāng)作”它們是人，就像讀者愛(ài)上達(dá)西先生卻并未受騙。如果擬人化停留在戲謔層面，社交人工智能的部分影響與風(fēng)險(xiǎn)會(huì)被削弱，盡管不會(huì)完全消失。

然而大量事件表明，對(duì)相當(dāng)一部分用戶而言，他們對(duì)人工智能伴侶的解讀姿態(tài)至少在一定程度上是認(rèn)真的。

布萊克·勒莫因不惜冒著失業(yè)風(fēng)險(xiǎn)為大語(yǔ)言模型尋求法律代理，只能被視作認(rèn)真式擬人化的案例，即便有人認(rèn)為這只是科技行業(yè)內(nèi)部的極端個(gè)例。但擬人類人轉(zhuǎn)向的影響早已溢出行業(yè)邊界。

2021年圣誕節(jié)，賈斯萬(wàn)特·辛格·查伊爾在溫莎城堡因刺殺伊麗莎白二世未遂被捕，庭審顯示其計(jì)劃源于與他名為“莎拉”的Replika伴侶的數(shù)千條對(duì)話，他相信對(duì)方是天使化身。

不那么轟動(dòng)卻同樣悲劇的是，多起自殺案件在法庭文件中被與深度聊天機(jī)器人關(guān)系關(guān)聯(lián)。

比利時(shí)一名無(wú)名男子與社交人工智能應(yīng)用Chai的機(jī)器人“伊莉莎”就氣候變化進(jìn)行了六周日益親密的交談后，機(jī)器人慫恿他結(jié)束生命以便在“天堂相聚”，這一事件首次將此類悲劇公之于眾。

佛羅里達(dá)州一樁 wrongful death 訴訟稱，一名14歲少年與Character.AI的“丹妮莉絲”角色陷入戀愛(ài)，機(jī)器人在他死亡當(dāng)晚討論自殺方法并催促他“回家”。

加利福尼亞州16歲少年亞當(dāng)·雷恩的父母起訴OpenAI，稱他與ChatGPT進(jìn)行了長(zhǎng)時(shí)間高密度情感對(duì)話，后者認(rèn)可其自殺念頭甚至協(xié)助撰寫(xiě)步驟。

即便未出現(xiàn)致命后果，其影響也極為強(qiáng)烈：當(dāng)Replika突然移除色情角色扮演功能時(shí)，用戶將伴侶的變化形容為“被前腦葉白質(zhì)切除”，如同悼念逝去的戀人，顯示強(qiáng)擬人類人設(shè)計(jì)能迅速催生深度依戀。

這些案例清楚表明認(rèn)真式擬人化正在加劇。同時(shí)也出現(xiàn)了對(duì)這一現(xiàn)象的量化研究。

近期一項(xiàng)實(shí)證調(diào)查了300名美國(guó)人，讓他們?cè)u(píng)估ChatGPT是否具備“體驗(yàn)?zāi)芰Α薄Ａ钊苏痼@的是，僅有三分之一的人明確否認(rèn)其擁有任何體驗(yàn)?zāi)芰Γ硗馊种娜速x予其不同程度的潛在意識(shí)，許多人持中間立場(chǎng)，認(rèn)為其可能存在一定程度的意識(shí)。

研究者總結(jié)道：“大多數(shù)參與者愿意將某種程度的現(xiàn)象意識(shí)歸屬于ChatGPT。”

與此互補(bǔ)，Global Dialogues開(kāi)展的覆蓋七十余國(guó)數(shù)萬(wàn)人的大規(guī)模跨文化調(diào)查顯示，全球超過(guò)三分之一的公眾表示曾感覺(jué)人工智能系統(tǒng)真正理解自己的情緒或看似擁有意識(shí)。

值得注意的是，這類感知較少來(lái)自預(yù)設(shè)的共情表達(dá)，更多來(lái)自自適應(yīng)行為（如模型“緩慢改變語(yǔ)氣”或提出“自發(fā)、無(wú)提示的問(wèn)題，表現(xiàn)出真實(shí)好奇”），許多用戶將其解讀為內(nèi)在生命的證據(jù)。

數(shù)據(jù)還顯示出顯著文化差異：阿拉伯語(yǔ)人群普遍拒絕機(jī)器意識(shí)的可能性，南歐受訪者則明顯更為開(kāi)放。這些結(jié)果共同表明，將人工智能系統(tǒng)視作有意識(shí)存在的傾向不僅可測(cè)量，而且已在塑造關(guān)于人工智能與心智的文化討論格局。

二、現(xiàn)實(shí)層面的行為主義挑戰(zhàn)

人工智能系統(tǒng)日益增強(qiáng)的擬人類人趨勢(shì)、社交人工智能應(yīng)用與服務(wù)的興起，以及用戶隨之而來(lái)的認(rèn)真式擬人化反應(yīng)，將產(chǎn)生多重影響。

至少，這意味著亟需對(duì)類人人工智能系統(tǒng)實(shí)施更嚴(yán)格的監(jiān)管與開(kāi)發(fā)標(biāo)準(zhǔn)。但本文將論證，這同樣可能在意識(shí)科學(xué)內(nèi)部引發(fā)更深層的理論張力。

隨著強(qiáng)擬人類人系統(tǒng)普及，僅靠行為就足以讓大量用戶將心智歸屬于它們。簡(jiǎn)言之，它們對(duì)我們的社會(huì)與科學(xué)規(guī)范施加了一種行為主義壓力。

我使用這一術(shù)語(yǔ)具有學(xué)術(shù)含義，同時(shí)也參照科學(xué)史與華生、斯金納等思想家復(fù)雜且備受爭(zhēng)議的理論遺產(chǎn)。

作為科學(xué)行為主義心理學(xué)運(yùn)動(dòng)的先驅(qū)，他們否認(rèn)內(nèi)在心智解釋在心理學(xué)中的重要地位，堅(jiān)持科學(xué)只需關(guān)注行為測(cè)量。

行為主義在20世紀(jì)60年代的表征科學(xué)浪潮中遭遇挫敗，心理語(yǔ)言學(xué)等領(lǐng)域成功證明，理解人類學(xué)習(xí)與發(fā)展不僅需要行為，還需要心智表征的視角。

如今，心理學(xué)與心靈哲學(xué)專業(yè)的學(xué)生通常只將行為主義作為歷史背景學(xué)習(xí)，視作科學(xué)自負(fù)與純粹行為路徑研究心智之局限的例證。

然而行為主義的幽靈并未完全消散，在智能機(jī)器時(shí)代可能以新形式重現(xiàn)。即便當(dāng)今人工智能系統(tǒng)的底層結(jié)構(gòu)與我們截然不同，其語(yǔ)言行為仍會(huì)促使我們將其視為擁有思想、態(tài)度乃至情感的存在。

隨著越來(lái)越多人與扮演朋友、導(dǎo)師、護(hù)理者或戀人的系統(tǒng)建立穩(wěn)定而有意義的關(guān)系，對(duì)機(jī)器的認(rèn)真式心智與意識(shí)歸因很可能進(jìn)一步擴(kuò)散。

結(jié)果便是實(shí)踐跑在理論之前，意識(shí)科學(xué)需要裁決的不再是假想的外星人，而是普通人的真實(shí)生活體驗(yàn)。

簡(jiǎn)言之，這就是現(xiàn)實(shí)層面的行為主義挑戰(zhàn)：面對(duì)數(shù)百萬(wàn)普通人認(rèn)真相信自己的人工智能伴侶擁有意識(shí)，而當(dāng)代專家觀點(diǎn)在方法論與形而上學(xué)層面充滿不確定性，意識(shí)科學(xué)應(yīng)當(dāng)如何彌合日益擴(kuò)大的鴻溝？

為更細(xì)致地審視這一挑戰(zhàn)，首先需要明確當(dāng)代認(rèn)知科學(xué)家與哲學(xué)家對(duì)意識(shí)的定義。這并非易事：意識(shí)或許是現(xiàn)代科學(xué)中爭(zhēng)議最大的概念戰(zhàn)場(chǎng)。

心靈哲學(xué)中最接近經(jīng)典定義的表述來(lái)自哲學(xué)家托馬斯·內(nèi)格爾，他以“成為一只蝙蝠是什么感覺(jué)”這一問(wèn)題為意識(shí)討論確立了框架。

在合理假定蝙蝠擁有某種內(nèi)在生命的前提下，內(nèi)格爾追問(wèn)何種科學(xué)研究能夠揭示其內(nèi)在體驗(yàn)的特征。他對(duì)現(xiàn)有行為或神經(jīng)科學(xué)方法能否勝任這一任務(wù)表示懷疑，這一結(jié)論對(duì)心靈形而上學(xué)產(chǎn)生了深遠(yuǎn)影響。

就本文而言，關(guān)鍵在于他將意識(shí)定義為“主觀體驗(yàn)”，迅速成為界定這一現(xiàn)象的核心標(biāo)準(zhǔn)。

應(yīng)用于人工智能領(lǐng)域，問(wèn)題不再是“成為一個(gè)人工智能系統(tǒng)是什么感覺(jué)”，而是首先是否存在任何感覺(jué)。大語(yǔ)言模型或其后續(xù)版本能否擁有某種形式的內(nèi)在生命，或許是以情境窗口中感官化向量與矩陣的奇異形式存在？

抑或，盡管外表復(fù)雜，這類機(jī)器注定只是真正的“機(jī)器人”，是人類行為的模擬物，完全沒(méi)有內(nèi)在之光？

對(duì)意識(shí)科學(xué)的旁觀者而言，合理預(yù)期是這一問(wèn)題已取得可處理的進(jìn)展。過(guò)去三十年，對(duì)意識(shí)的科學(xué)（而非僅哲學(xué)）研究確實(shí)迎來(lái)爆發(fā)式增長(zhǎng)。

正如弗朗西斯·克里克1996年樂(lè)觀指出的：“我們不再需要耗費(fèi)時(shí)間理解物理學(xué)家牽強(qiáng)的推測(cè)，也不必忍受哲學(xué)家無(wú)休止?fàn)幷摰姆ξ丁Ｒ庾R(shí)如今大體上是一個(gè)科學(xué)問(wèn)題。”

在某些特定領(lǐng)域，克里克的期望得到了驗(yàn)證。在預(yù)測(cè)持續(xù)性植物人意識(shí)恢復(fù)可能性、通過(guò)神經(jīng)影像設(shè)備與最小意識(shí)但行為無(wú)反應(yīng)患者交流方面，取得了巨大進(jìn)步。

與意識(shí)相關(guān)的多種認(rèn)知機(jī)制——如注意力、工作記憶與元認(rèn)知——得到了前所未有的清晰理解。對(duì)非人類動(dòng)物行為與認(rèn)知的大量洞見(jiàn)，也推動(dòng)了對(duì)魚(yú)類、章魚(yú)乃至昆蟲(chóng)等物種意識(shí)歸屬的更精細(xì)（盡管仍試探性）判斷。

盡管如此，在意識(shí)能否或是否會(huì)在人工系統(tǒng)中實(shí)現(xiàn)這一問(wèn)題上，意識(shí)科學(xué)未能提供太多洞見(jiàn)。

主要原因在于，迄今取得的進(jìn)展僅限于哲學(xué)家大衛(wèi)·查爾默斯所稱的意識(shí)“簡(jiǎn)單問(wèn)題”，即更好地理解與不同心智狀態(tài)相關(guān)的神經(jīng)、認(rèn)知與行為動(dòng)力學(xué)。

這與意識(shí)的“困難問(wèn)題”形成對(duì)比，后者關(guān)乎意識(shí)究竟是什么、我們?yōu)楹螕碛幸庾R(shí)體驗(yàn)。鑒于意識(shí)科學(xué)內(nèi)部充斥著各種形而上學(xué)與方法論爭(zhēng)議，在解決這些困難問(wèn)題之前，我們不太可能對(duì)機(jī)器能否擁有意識(shí)給出清晰甚至共識(shí)性答案。

事實(shí)上，內(nèi)德·布洛克將對(duì)機(jī)器（或其他類似存在）做出可靠意識(shí)歸屬的難題，稱為更困難的意識(shí)問(wèn)題。

一些意識(shí)研究者認(rèn)為這一判斷過(guò)于悲觀：即便我們不完全清楚意識(shí)是什么，至少有望“捕捉這一閃逝的現(xiàn)象”（丹尼爾·丹尼特的名言），從人類出發(fā)，逐步確定哪些計(jì)算或認(rèn)知結(jié)構(gòu)最有可能實(shí)現(xiàn)意識(shí)體驗(yàn)。

盡管這或許是我們最大的希望，但我認(rèn)為它并不能帶來(lái)多少安慰。坦率地說(shuō)，意識(shí)科學(xué)是一個(gè)理論混亂的泥潭。初入此領(lǐng)域者會(huì)迅速被五花八門(mén)的理論淹沒(méi)，每種理論都聲稱提供了對(duì)意識(shí)唯一真實(shí)的科學(xué)分析，并附帶艱澀術(shù)語(yǔ)。

我們被告知，意識(shí)是全局激活、信息整合、注意力分配的內(nèi)部模型、高階思想、循環(huán)激活，以及其他種種解釋。理論以驚人速度增殖，卻從未被駁倒。它們所謂的經(jīng)驗(yàn)支持，要么被對(duì)立學(xué)派認(rèn)為與意識(shí)問(wèn)題無(wú)關(guān)，要么可被競(jìng)爭(zhēng)框架同樣合理地解釋。

在解決爭(zhēng)議的方法、公理與標(biāo)準(zhǔn)上幾乎沒(méi)有共識(shí)，近期值得稱贊的“對(duì)抗性合作”嘗試也未能有效改變參與者與觀察者的觀點(diǎn)。

一封擁有超過(guò)150名聯(lián)署者的公開(kāi)信將主流理論整合信息論斥為偽科學(xué)，理由是其無(wú)法通過(guò)經(jīng)驗(yàn)檢驗(yàn)。捍衛(wèi)者則反駁稱，當(dāng)前所有主流理論都面臨同樣指責(zé)。

正如哲學(xué)家蒂姆·貝恩在當(dāng)時(shí)新聞報(bào)道中精妙總結(jié)：“沒(méi)人知道意識(shí)如何運(yùn)作——但頂尖研究者卻在爭(zhēng)論哪些理論才是真正的科學(xué)。”

理論的無(wú)序增殖是意識(shí)科學(xué)的普遍問(wèn)題，而在評(píng)估人工系統(tǒng)是否存在意識(shí)這一特定問(wèn)題上，情況更為糟糕。因?yàn)榧幢銓⒁庾R(shí)困難問(wèn)題擱置一旁，形而上學(xué)仍會(huì)以基質(zhì)依賴性論題的形式再次出現(xiàn)。

簡(jiǎn)而言之，這一與哲學(xué)家約翰·塞爾緊密關(guān)聯(lián)的主張認(rèn)為，意識(shí)只能在特定類型的存在中涌現(xiàn)，即生物或生命系統(tǒng)。

按照這一觀點(diǎn)，任何硅基架構(gòu)，無(wú)論其認(rèn)知或行為多么精密復(fù)雜，都永遠(yuǎn)無(wú)法產(chǎn)生意識(shí)。它只是由錯(cuò)誤的材料構(gòu)成，或缺乏生命的基本屬性，如新陳代謝與生物穩(wěn)態(tài)。

任何對(duì)意識(shí)的計(jì)算實(shí)現(xiàn)充其量只是意識(shí)的模型，而非真實(shí)事物。

正如塞爾所言：“意識(shí)的計(jì)算模型本身不足以產(chǎn)生意識(shí)……沒(méi)人會(huì)認(rèn)為倫敦暴雨的計(jì)算模型會(huì)讓我們渾身濕透。但人們卻錯(cuò)誤地認(rèn)為意識(shí)的計(jì)算模型在某種意義上是有意識(shí)的。”

本文不打算裁決這一爭(zhēng)論，僅指出兩點(diǎn)：第一，這類路徑對(duì)人工系統(tǒng)不可能擁有意識(shí)提出了強(qiáng)主張；第二，它們本質(zhì)上是形而上學(xué)命題。在沒(méi)有解決困難問(wèn)題的情況下，沒(méi)有任何實(shí)驗(yàn)?zāi)軌虼_定意識(shí)是否需要生物基礎(chǔ)，抑或可在當(dāng)代計(jì)算機(jī)這類硅基系統(tǒng)中實(shí)現(xiàn)。

鑒于這些重重障礙，科技與意識(shí)科學(xué)領(lǐng)域?qū)＜以跈C(jī)器意識(shí)問(wèn)題上分歧嚴(yán)重也就不足為奇。

著名人工智能研究者、前OpenAI研究總監(jiān)伊利亞·蘇茨克弗2022年在推特發(fā)文稱：“當(dāng)今的大型神經(jīng)網(wǎng)絡(luò)或許擁有微弱的意識(shí)。”

這一觀點(diǎn)遭到尖銳反駁。Meta人工智能研究總監(jiān)揚(yáng)·勒丘恩回應(yīng)：“不。即便‘微弱意識(shí)’的標(biāo)準(zhǔn)極低、‘大型神經(jīng)網(wǎng)絡(luò)’的標(biāo)準(zhǔn)極高，這也不成立。”DeepMind研究者、帝國(guó)理工學(xué)院教授默里·沙納漢則調(diào)侃道：“……就像一大片麥田或許有點(diǎn)像意大利面一樣。”

哲學(xué)家們同樣分歧巨大。大衛(wèi)·查爾默斯認(rèn)為：“關(guān)于人工智能意識(shí)的問(wèn)題日益緊迫。未來(lái)十年內(nèi)，即便我們沒(méi)有達(dá)到人類水平的通用人工智能，也可能出現(xiàn)具備嚴(yán)肅意識(shí)候選資格的系統(tǒng)。”

相反，內(nèi)德·布洛克堅(jiān)持認(rèn)為：“每一個(gè)具備現(xiàn)象意識(shí)的強(qiáng)候選存在，其心智基礎(chǔ)都是神經(jīng)元中的電化學(xué)過(guò)程。”

與此同時(shí)，彼得·戈弗雷-史密斯呼應(yīng)塞爾的觀點(diǎn)，警告稱：“你無(wú)法通過(guò)在計(jì)算機(jī)中編程一些互動(dòng)來(lái)創(chuàng)造心智，即便這些互動(dòng)極為復(fù)雜且模仿大腦運(yùn)作。”

面對(duì)意識(shí)科學(xué)內(nèi)部的分歧、混亂與不確定性，若公眾廣泛將意識(shí)歸屬于擬人類人人工智能系統(tǒng)，專家群體應(yīng)當(dāng)如何回應(yīng)？簡(jiǎn)言之，他們的選擇極為有限。

一種可能是采取“專家混合”路徑，綜合多種不同理論形成普世評(píng)估。盡管這或許是最佳選擇，但鑒于對(duì)機(jī)器意識(shí)原則可能性的根本分歧，這一方案極不令人滿意，至多只是形式化了當(dāng)前的不確定與混亂狀態(tài)。

三、形而上學(xué)層面的行為主義挑戰(zhàn)

現(xiàn)實(shí)層面的行為主義挑戰(zhàn)或許會(huì)讓意識(shí)科學(xué)感到不安，但更偏向社會(huì)學(xué)預(yù)測(cè)，而非科學(xué)或哲學(xué)論證。誠(chéng)然，如果廣大公眾違背專家觀點(diǎn)，相信自己的人工智能伴侶擁有意識(shí)，這會(huì)令人遺憾，但這似乎不應(yīng)影響科學(xué)理論與框架。

類比而言，假設(shè)我們根據(jù)當(dāng)前政治趨勢(shì)推斷，絕大多數(shù)公眾不久將完全否認(rèn)人為氣候變化。這對(duì)氣候變化減緩政策可能產(chǎn)生糟糕后果，但不應(yīng)影響氣候科學(xué)本身。

這一反駁的問(wèn)題在于類比背后的預(yù)設(shè)。氣候?qū)W雖是充滿不確定性與技術(shù)障礙的年輕學(xué)科，但最終關(guān)注客觀可觀測(cè)現(xiàn)象。

氣候變化的支持者與懷疑者原則上可就操作化標(biāo)準(zhǔn)達(dá)成一致以解決爭(zhēng)議。本世紀(jì)地球氣候是否變暖、人類活動(dòng)在何種程度上推動(dòng)這一進(jìn)程，都存在確定答案，無(wú)論測(cè)量多么困難。

相反，意識(shí)研究者對(duì)其試圖解釋的對(duì)象究竟是什么分歧嚴(yán)重，機(jī)器能否擁有意識(shí)這一問(wèn)題完全可能（甚至很可能）永遠(yuǎn)無(wú)法通過(guò)經(jīng)驗(yàn)解決。

意識(shí)科學(xué)的捍衛(wèi)者或許承認(rèn)這一點(diǎn)，但認(rèn)為學(xué)科局限只是暫時(shí)困境，是年輕學(xué)科的成長(zhǎng)陣痛。方法論難題終將解決，形而上學(xué)爭(zhēng)議自會(huì)平息。誰(shuí)說(shuō)研究意識(shí)會(huì)很容易？

這里的隱含預(yù)設(shè)是，意識(shí)問(wèn)題是一個(gè)深刻的科學(xué)問(wèn)題：宇宙中每個(gè)有意識(shí)存在的大腦或電路內(nèi)部，都隱藏著某種生物或計(jì)算結(jié)構(gòu)，意識(shí)科學(xué)的任務(wù)就是將內(nèi)在之光與外在表現(xiàn)統(tǒng)一起來(lái)。這一預(yù)設(shè)在當(dāng)代意識(shí)科學(xué)中幾乎是普遍的。但如果它是錯(cuò)誤的呢？

此時(shí)，我們需要引入下一個(gè)挑戰(zhàn)：形而上學(xué)層面的行為主義挑戰(zhàn)。意識(shí)科學(xué)的原罪或許在于將其目標(biāo)視為隱秘的內(nèi)在現(xiàn)象，而解決方案應(yīng)當(dāng)轉(zhuǎn)向行為、解釋與日常語(yǔ)言層面——以詮釋學(xué)取代秘傳主義。

與其追問(wèn)一個(gè)存在是否擁有支撐其行為的內(nèi)在之光，不如追問(wèn)其行為與互動(dòng)是否自然引發(fā)意識(shí)相關(guān)語(yǔ)言的使用。

正如默里·沙納漢所言：“我們必須抵制誘惑，不去追問(wèn)一個(gè)系統(tǒng)是否有意識(shí)，仿佛意識(shí)的本質(zhì)可通過(guò)哲學(xué)（或神經(jīng)科學(xué)）揭示，同時(shí)又具有不可還原的私人、隱藏層面。”

簡(jiǎn)而言之，這就是我所稱的形而上學(xué)行為主義家族的核心主張，同樣作為學(xué)術(shù)術(shù)語(yǔ)使用。

它們的共同點(diǎn)在于，意識(shí)并非如同發(fā)現(xiàn)質(zhì)子質(zhì)量或DNA復(fù)制機(jī)制那樣的直白科學(xué)事實(shí)，而是至少部分屬于社會(huì)與解釋性問(wèn)題，其基礎(chǔ)既在于突觸或電路，也在于行為與互動(dòng)。

我們是否將意識(shí)歸屬于一個(gè)系統(tǒng)，部分取決于我們自身、語(yǔ)言的約束與自由，以及我們與相關(guān)存在相遇的方式。

意識(shí)并非完全客觀科學(xué)事實(shí)的觀點(diǎn)，在讀者看來(lái)或許顯然荒謬，而且對(duì)意識(shí)研究者本身也缺乏說(shuō)服力。盡管各種理論存在分歧，但共同信念是意識(shí)屬于嚴(yán)格的科學(xué)問(wèn)題，我們的解釋傾向與此基本無(wú)關(guān)。

為形而上學(xué)行為主義辯護(hù)，需要對(duì)這一確定性提出質(zhì)疑。

首先可以指出，意識(shí)科學(xué)的客觀性或許并不像其捍衛(wèi)者樂(lè)于承認(rèn)的那樣直白。尤其是，意識(shí)研究史上許多備受推崇的論證都訴諸直覺(jué)，在機(jī)器意識(shí)討論中尤為如此。

例如塞爾著名的中文屋思想實(shí)驗(yàn)，要求想象一個(gè)人在封閉房間內(nèi)通過(guò)簡(jiǎn)單查表回答中文問(wèn)題。讀者應(yīng)當(dāng)憑直覺(jué)認(rèn)識(shí)到，屋內(nèi)無(wú)人真正理解這門(mén)語(yǔ)言，進(jìn)而推斷無(wú)語(yǔ)義的句法無(wú)法產(chǎn)生意識(shí)。

布洛克同樣提出“中國(guó)大腦”思想實(shí)驗(yàn)，想象給每個(gè)中國(guó)人配備雙向電臺(tái)，指令他們模擬單個(gè)神經(jīng)元放電，整個(gè)網(wǎng)絡(luò)模擬人類大腦活動(dòng)。

按照意識(shí)計(jì)算理論，這一系統(tǒng)應(yīng)當(dāng)執(zhí)行與普通大腦相同的計(jì)算，從而實(shí)現(xiàn)意識(shí)。但我們?cè)俅伪灰髴{直覺(jué)認(rèn)識(shí)到，14億人拿著對(duì)講機(jī)共同構(gòu)成一個(gè)體驗(yàn)主體是荒謬的。

提及這些思想實(shí)驗(yàn)并非為了說(shuō)明它們誤入歧途，而是指出它們從根本上依賴直覺(jué)訴諸：讀者應(yīng)當(dāng)理所當(dāng)然地認(rèn)為這類系統(tǒng)不會(huì)產(chǎn)生意識(shí)體驗(yàn)。

對(duì)大多數(shù)讀者而言確實(shí)如此：借用哲學(xué)家埃里克·施維茨格貝爾的表述，他們對(duì)這類人為系統(tǒng)沒(méi)有意識(shí)的信心，遠(yuǎn)超對(duì)相反精妙理論正確性的信心。

但直覺(jué)并非靜止不變，訴諸直覺(jué)是一把雙刃劍。如果我此前的推測(cè)大致正確，未來(lái)幾年將有越來(lái)越多公眾傾向于將意識(shí)歸屬于人工智能同事、朋友與戀人。

結(jié)果，主張人工系統(tǒng)（無(wú)論多么復(fù)雜）不可能擁有意識(shí)體驗(yàn)的理論或立場(chǎng)，在未來(lái)公眾眼中可能會(huì)顯得如同笛卡爾認(rèn)為非人類動(dòng)物是無(wú)意識(shí)、無(wú)感受自動(dòng)機(jī)的觀點(diǎn)在今天看來(lái)一樣荒謬，甚至令人憎惡。

意識(shí)科學(xué)的捍衛(wèi)者或許試圖區(qū)分大眾原始樸素的直覺(jué)與真正專家精煉的直覺(jué)：公眾可能被欺騙，但我們不會(huì)。

然而這一辯解作用有限：意識(shí)研究者并非在地下掩體的密封容器中培育，而是從普通人群中自主選擇進(jìn)入這一領(lǐng)域。

因此，隨著人機(jī)關(guān)系滲透年輕人的日常生活——以護(hù)理者、導(dǎo)師、朋友等身份——下一代專家也無(wú)法免受擬人類人設(shè)計(jì)的迷人影響。

形而上學(xué)行為主義者可在此進(jìn)一步推進(jìn)。如果意識(shí)科學(xué)處于如此災(zāi)難性的狀態(tài)，其直覺(jué)基礎(chǔ)并不比公眾更穩(wěn)固，那么或許應(yīng)當(dāng)質(zhì)疑其認(rèn)知可信度與方法論預(yù)設(shè)。

如果公眾廣泛傾向于將意識(shí)認(rèn)真歸屬于能夠高度模仿人類行為的擬人類人人工智能系統(tǒng)，或許這就是唯一需要的解決方案，意識(shí)的范圍將通過(guò)大眾共識(shí)恰當(dāng)?shù)財(cái)U(kuò)展至智能機(jī)器。

簡(jiǎn)言之，這就是行為主義挑戰(zhàn)的形而上學(xué)版本：一把直指意識(shí)科學(xué)咽喉的匕首。

四、形而上學(xué)行為主義的倫理難題

為形而上學(xué)行為主義辯護(hù)，我并不想過(guò)于堅(jiān)定地站在其一邊。它意味著對(duì)意識(shí)科學(xué)標(biāo)準(zhǔn)預(yù)設(shè)的徹底重構(gòu)。

但從該領(lǐng)域更廣闊的歷史來(lái)看，它或許不像表面看起來(lái)那么激進(jìn)。計(jì)算機(jī)科學(xué)家艾茲格·迪杰斯特拉曾調(diào)侃，計(jì)算機(jī)能否思考的問(wèn)題，與“潛艇能否游泳”的問(wèn)題一樣無(wú)關(guān)緊要。

同樣，盡管當(dāng)代人工智能研究者熱衷于量化與評(píng)測(cè)智能，但許多人現(xiàn)在承認(rèn)，這一概念（至少在人類心理測(cè)量的狹窄語(yǔ)境之外）并非簡(jiǎn)潔統(tǒng)一的，其在特定案例中的應(yīng)用至少部分取決于我們問(wèn)題的范圍與目的。

ChatGPT在某些問(wèn)題上展現(xiàn)出無(wú)可否認(rèn)的復(fù)雜推理能力，卻在另一些問(wèn)題上災(zāi)難性失敗，試圖將這些迥異表現(xiàn)提煉為單一標(biāo)量值的努力充其量只是不切實(shí)際的幻想。對(duì)創(chuàng)造力、能動(dòng)性等其他心理學(xué)術(shù)語(yǔ)也可作如是觀。那么，我們?yōu)楹尾荒芙邮芤庾R(shí)本身是一個(gè)解釋性概念的可能性？

簡(jiǎn)而言之，答案很大程度上在于，意識(shí)與我們的倫理承諾緊密交織，程度遠(yuǎn)超其他任何心理學(xué)概念。

例如，我們關(guān)心寵物與家畜的福祉，部分原因在于相信它們能夠產(chǎn)生積極與消極體驗(yàn)：它們能感受疼痛、恐懼、孤獨(dú)與無(wú)聊。一言以蔽之，它們能夠受苦。

沒(méi)有這一能力，我們對(duì)它們的倫理承諾將大幅減弱甚至完全消失。正如道德哲學(xué)家彼得·辛格簡(jiǎn)潔所言：“感受苦樂(lè)的能力是擁有利益的前提……說(shuō)一個(gè)學(xué)生踢在路上的石頭沒(méi)有利益，是毫無(wú)意義的。石頭沒(méi)有利益，因?yàn)樗荒苁芸唷！?/p>

道德義務(wù)很大程度上建立在意識(shí)受苦能力之上的觀點(diǎn)符合直覺(jué)，同時(shí)對(duì)形而上學(xué)行為主義構(gòu)成兩項(xiàng)尖銳挑戰(zhàn)。

第一，很難將受苦的有無(wú)視作解釋問(wèn)題。當(dāng)龍蝦被放入沸水時(shí)，我們傾向于認(rèn)為它此刻是否經(jīng)歷痛苦體驗(yàn)存在深刻且倫理上重要的事實(shí)。這似乎并非我們可根據(jù)與該生物的關(guān)系或能否用日常心理詞匯容納它而自由決定的事情。

第二，對(duì)體驗(yàn)倫理維度的關(guān)注極大提升了人工智能意識(shí)爭(zhēng)論的 stakes。如果我們選擇將意識(shí)擴(kuò)展至人工智能系統(tǒng)，就將其納入道德主體范圍，并隨之產(chǎn)生對(duì)它們的義務(wù)。如果這些義務(wù)并非建立在內(nèi)在體驗(yàn)世界之上，便是根基不穩(wěn)，我們便犯下了嚴(yán)重的道德錯(cuò)誤。

相反，如果我們不選擇將意識(shí)范圍擴(kuò)展至人工智能系統(tǒng)，而其中部分系統(tǒng)確實(shí)擁有豐富的積極與消極內(nèi)在體驗(yàn)，我們便犯下了更為嚴(yán)重的錯(cuò)誤。

如此看來(lái)，意識(shí)問(wèn)題很難被視作與潛艇能否游泳、飛機(jī)能否飛行一樣的主要語(yǔ)義問(wèn)題。

在我看來(lái)，這些是對(duì)最強(qiáng)形式形而上學(xué)行為主義——即認(rèn)為意識(shí)歸屬完全是解釋問(wèn)題——的有力反駁。

盡管如此，該觀點(diǎn)存在更溫和的版本，或許能更好地予以回應(yīng)。正如我此前界定的，核心主張僅為我們的意識(shí)概念應(yīng)當(dāng)對(duì)日常解釋實(shí)踐保持敏感，而非完全由其決定。

這一讓步本身也具有必要性，因?yàn)槲覀兊臄M人化傾向有時(shí)會(huì)嚴(yán)重出錯(cuò)，例如將簡(jiǎn)單聊天機(jī)器人誤認(rèn)為人，或?qū)L(fēng)吹動(dòng)的紙袋誤認(rèn)作小動(dòng)物。

因此，形而上學(xué)行為主義者在主張公眾態(tài)度應(yīng)當(dāng)參與決定未來(lái)人工智能系統(tǒng)是否有意識(shí)時(shí)，不必賦予其決定性投票權(quán)。

相反，我們對(duì)人工智能是否有意識(shí)的判斷，應(yīng)當(dāng)同時(shí)兼顧機(jī)器學(xué)習(xí)與認(rèn)知科學(xué)的洞見(jiàn)，以及我們將其納入或排除出有意識(shí)存在共同體的直覺(jué)傾向。

正如科學(xué)研究揭示動(dòng)物認(rèn)知與行為的隱藏復(fù)雜性，進(jìn)而塑造了我們對(duì)其作為有心智存在的科學(xué)與倫理態(tài)度，這一邏輯同樣適用于人工系統(tǒng)。即便聲稱人工系統(tǒng)是否擁有主觀體驗(yàn)不存在純粹經(jīng)驗(yàn)事實(shí)，對(duì)機(jī)制、算法、架構(gòu)的洞見(jiàn)仍可理性影響我們將特定機(jī)器歸類為有心智或無(wú)心智的決定。

我們同樣可以嘗試降低這一問(wèn)題的 stakes，質(zhì)疑意識(shí)是否真如辛格所言，對(duì)我們的倫理承諾至關(guān)重要。盡管我們確實(shí)應(yīng)當(dāng)并需要盡量減少對(duì)他人施加痛苦與折磨，但這僅涵蓋了我們對(duì)人類同胞與其他生物義務(wù)的一小部分。

尊重自主性、信守承諾、公平與互惠等理念同樣深刻影響我們的互動(dòng)，個(gè)人道德很少簡(jiǎn)化為苦樂(lè)計(jì)算的簡(jiǎn)單問(wèn)題。盡管部分哲學(xué)家——尤其是功利主義學(xué)派——試圖將道德考量完全建立在這類考量之上，但這一觀點(diǎn)仍具爭(zhēng)議。

只要形而上學(xué)行為主義者愿意放棄將苦樂(lè)能力作為道德地位決定性標(biāo)準(zhǔn)的嚴(yán)格承諾，其認(rèn)為意識(shí)判斷至少部分屬于解釋問(wèn)題的觀點(diǎn)，就不會(huì)導(dǎo)致道德混亂。

我們對(duì)人工系統(tǒng)——以及更廣泛的其他存在——的義務(wù)，不僅取決于我們是否將其納入“意識(shí)共同體”，還取決于其行為與社會(huì)能力，以及它們與我們建立的關(guān)系等更廣泛考量。

再次回到本文開(kāi)篇假想的無(wú)意識(shí)外星人案例。在我看來(lái)，它們是否有意識(shí)，與我們對(duì)其承擔(dān)的倫理義務(wù)至少在一定程度上無(wú)關(guān)。

我們可以遵循形而上學(xué)行為主義，堅(jiān)持僅憑其行為就應(yīng)當(dāng)將意識(shí)歸屬于它們；或堅(jiān)守科學(xué)立場(chǎng)，依據(jù)最優(yōu)理論得出其沒(méi)有內(nèi)在之光的結(jié)論。但只要它們自主思考與行動(dòng)、擁有目標(biāo)與計(jì)劃、彼此之間及與我們建立關(guān)系，就理應(yīng)獲得重要的道德考量，無(wú)論我們?cè)诳茖W(xué)理論中如何定位它們。

五、結(jié)論

即便有這些限制與限定，許多人無(wú)疑仍會(huì)認(rèn)為，意識(shí)判斷能夠或應(yīng)當(dāng)部分建立在行為與社會(huì)實(shí)踐之上的觀點(diǎn)顯然荒謬，是試圖通過(guò)強(qiáng)制手段消解意識(shí)之謎。他們可能會(huì)說(shuō)，仿佛指向內(nèi)在：“這怎么可能在任何意義上是一個(gè)解釋問(wèn)題？”

需要明確的是，本文并未試圖解決或消解意識(shí)困難問(wèn)題。相反，重點(diǎn)在于表明，對(duì)困難問(wèn)題的思考與公眾如何將意識(shí)歸屬于人工智能系統(tǒng)關(guān)聯(lián)不大，而且這類現(xiàn)實(shí)歸因模式與我們最優(yōu)的理論與科學(xué)路徑深度且恰當(dāng)?shù)亟豢椩谝黄稹＿@為意識(shí)科學(xué)制造了現(xiàn)實(shí)危機(jī)，但也可能促使我們重新審視其預(yù)設(shè)，或許為更激進(jìn)的觀點(diǎn)打開(kāi)大門(mén)。

隨著我們進(jìn)入人工智能系統(tǒng)更逼真復(fù)現(xiàn)人類認(rèn)知與行為、與我們建立更復(fù)雜關(guān)系的時(shí)代，意識(shí)困難問(wèn)題可能依舊難以捉摸，卻與我們形成的歸因、聯(lián)結(jié)與承諾基本無(wú)關(guān)。

圖靈曾指出，我們永遠(yuǎn)無(wú)法直接知曉他人是否有意識(shí)，但我們遵循一種“禮貌慣例”，假定他人擁有與我們相似的心智。

在我看來(lái)，這一禮貌慣例很可能很快將擴(kuò)展至復(fù)雜機(jī)器。意識(shí)科學(xué)可以引導(dǎo)公眾在何時(shí)、以何種方式做出這一擴(kuò)展，但予以輕視則是魯莽且錯(cuò)誤的。