習以為常其實非常不正常

圖片由AI工具生成

田松教授：好，非常感謝劉鈍教授，給我們提供了很多可以討論的東西。講了很多歷史的，然后又和現(xiàn)在相關聯(lián)的，我就不多做評論了。我們還有大概半個小時的時間，大家有什么問題可以提出來，可以舉手。應該說這個演講我是期待很久了，我在南科大開過一門課，叫《科學倫理與技術倫理》名家講堂，這個課就是邀請國內(nèi)做科學倫理和技術倫理的學者到南科大來講。第一輪開這個課的時候，還是在疫情時期，幾乎都是在網(wǎng)上進行的。第二輪課開的時候，劉鈍老師人在美國，沒有來成。這個課現(xiàn)在已經(jīng)不能開了，因為我們的課程進行調整，外聘老師的課幾乎都停了，所以完全由邀請來的老師講課就停止了。這次有機會請劉鈍老師，不能在我課堂上講，但是可以做一個南科大講堂。南科大講堂是南科大級別最高的一個講座，所以在這講也是非常合適的。我覺得有很多有意思的地方，當初“科玄論戰(zhàn)”的時候，張君勱是在清華學堂，面對的都是一些將要出國的理工科學生，我們在南科大也只有理工科的學生，劉鈍老師來這，也是面對理工科的學生。然后講這樣的話題，和那個事件相隔100年，很多話題過了100年，但并沒有過時，也并沒有消失，反而顯得更加突出，更加尖銳了。我是墊一些話，期待著大家舉手。

同學一：我是大一的同學，我叫李XX。我剛剛聽的是，困擾霍爾丹和羅素的兩個問題。霍爾丹覺得倫理在阻礙著科學的進步，羅素擔心科學的進步被政府所掌握之后，會去控制人民的行為，但是看現(xiàn)在這個環(huán)境，你會發(fā)現(xiàn)，正好這兩點困擾的東西都被占了，政府又掌握著各種最先進的技術來控制人民，整個社會的倫理發(fā)展又極大地限制著科學的進步。這種情況是否會持續(xù)呢？如果持續(xù)下去，會造成什么樣的結果？

劉鈍教授：（這個問題）很好，也很大，我很難給予準確的回答。科學探索無止境，這是美國范內(nèi)瓦爾·布什（Vannevar Bush）提出來的。他在1945年二戰(zhàn)結束時給美國總統(tǒng)的報告，被我們譯成《科學，無盡的前沿》，這里的“前沿”（Frontier）本來有疆域的意思，令人想起美國18世紀末開始的西進運動，說科學是一個無盡的前沿，就是說科學中存在著無窮盡的未知疆域，所以它總是在發(fā)展的。我們作為智人這么一個種群，天性就是好奇，科學家更是好奇者中的佼佼者。從非常久遠的古代開始，我們的祖先剛剛走出非洲，領頭的一定是非常聰明的人，頭領也好，酋長也好，肯定是最優(yōu)秀的，也最具有好奇心的個體。于是后來就有了巫術、神話和宗教，再后來就有了科學和技術。

對自然奧秘的探索永無止境，這是人類的天性決定的，但是沒有止境不意味著科學沒有禁區(qū)。在我看來，有些東西是應該設禁區(qū)的，當然不是每個科學從業(yè)者都同意。生物工程就非常明顯，像賀建奎那樣的實驗就不應該做，絕對不能做。只是不能做不意味著沒有人做，我猜想有些人在偷偷地做。說不定在大洋深處的某個島上，就有個米諾斯王般的億萬富翁出錢在做。如果不用倫理或法律來限制，大概率是不可以的，很難防止可怕的負面結果出現(xiàn)。所以在這時候，我們更需要羅素先生提出來的，需要良心，需要道德，需要倫理。

另外一方面，你剛才講的政府，我不準備多評論了。我們確實感到科學的進步，有一種超出了我們想象的力量，或者超出人類之本性所能接受的程度，比方說“新冠”之后大家都習慣了進大學要報備，前兩天我在深圳另一所大學，進了一道門，到了第二道門又被攔住，還要給東道主打電話。北京也是，本來是用人民的錢辦的高等學府，外地的老人家想帶著兒孫看看名牌大學，但是進不去。黌宮非皇宮，學府乃天下公器。就是想看看宏偉壯觀的大城樓，也得通過種種安檢且不能停留，沒有辦法，只有年輕人騎共享單車快速通過。不過大家對這已經(jīng)習以為常了，其實是非常不正常的。

此外，大數(shù)據(jù)完全知道你要干什么，哪怕你不喜歡的東西，偶爾看過一眼，它就會推送給你。每個人都被watched，有人盯著，對此我的感覺非常不好。我們看哲人羅素，他已經(jīng)談過這些了，這種東西會影響我們這個種群的健康生存。這方面不能展開太多了，我們確實面臨著很多問題。一方面享受著科學技術帶來的便利，最happy的是我夫人，一天到晚買買買，不用上街了；最麻煩的是什么東西都在別人的掌控當中。大數(shù)據(jù)時代，或者我們叫信息社會，赫拉利也寫了這個問題，信息就是力量（Information is Power），這原來是從弗朗西斯·培根的名言“知識就是力量”（Knowledge is Power）借來的。這個Power既可以理解成力量，也可以理解成權力。到了福柯那里，他就把主語和賓語倒過來了，也就是“權力就是知識”，這就是他的知識-權力論。有了權力就是學界老大，有錢能招一大堆博士替他干活，能擴充實驗室，能批量制造論文，而且老大會變得越來越大，這是馬太效應。套用福柯的知識-權力論，赫拉利的口號就變成了“權力就是信息”，這是對大數(shù)據(jù)后果的一個最精彩推論。誰掌握了信息，誰就掌握了人類族群的命運。過去是巫師、酋長、君王、教皇、元首，未來是能夠玩透大數(shù)據(jù)的家伙，是不是硅基文明呀？我發(fā)揮得多了點，就到這里吧。

同學二：老師好，我是大二的，也是來自數(shù)學系的本科生。我的問題是，今天的主題是由希臘神話引申出來的，西方或者歐洲有很多比如說《圣經(jīng)》，包括希臘神話那一系列相關的一些來自于古代的故事，那么后面會有很多人，無論是出于宗教信仰原因，或者說想表達自己的觀點，創(chuàng)作出了一系列衍生的作品，比如說像荷馬，我想他肯定會在其中加入一些自己的想法，表達自己的觀點。我想問的就是，當我們有了這么多衍生的作品，例如說像《圣經(jīng)》，或者說希臘神話，它其中的核心剩下的是什么？后人在希臘神話或者《圣經(jīng)》中加入了自己的解釋，那么希臘神話或者《圣經(jīng)》或者其他的一些本體作品，它本身到底是有意義的還是無意義的？

劉鈍教授：作為人類文化遺產(chǎn)的繼承者，我覺得先人創(chuàng)造出來的所有事物都有意義，不管是什么信仰，什么樣的理念或意識形態(tài)，文化遺產(chǎn)都應該得到尊重，都應該學習，但你不要全部相信。我還是回到剛才講的《人類簡史》，其作者赫拉利說智人之所以能夠戰(zhàn)勝其他類物種成為地球的主宰，最重要的就是他們有語言，會講故事，編故事，這里面包括八卦與謊言，上面提到的各種權威文本也不例外，這是一種組織民眾的強大手段。赫拉利自己是一個猶太人，但他不信任何宗教。他的意思說白了就是，《圣經(jīng)》、荷馬以及各種權威文本跟希臘神話沒有多少區(qū)別，都是聰明人編的故事。他根據(jù)動物行為學的研究結果說道，像大猩猩、黑猩猩這種跟人類最相近的靈長類動物，具有很強的社會性，但是動物學家觀察到?jīng)]有50個以上的大猩猩或黑猩猩群體，多了就要打架。反過來，智人卻能組織起千百萬數(shù)目的個體，在聰明人編造的故事的引導下與大自然或者敵人戰(zhàn)斗，所以他們能夠戰(zhàn)勝其他的種群，猶如我們的祖先在歐洲淘汰了尼安德特人一樣。人類社會發(fā)展到現(xiàn)在，有了大數(shù)據(jù)這種東西，故事就編得更完滿了。所以要看你從什么觀點來看，從文化學來講，人類創(chuàng)造的所有美好東西都應該學習和繼承。但你要注意，要辨別里面的東西，我剛才講的那兩位英國紳士，都是利用神話做隱喻，他們并不相信什么代達羅斯、伊卡洛斯，只是借過來講自己的故事。

田松教授：剛才劉鈍教授推薦的赫拉利的幾本書，大家應該找時間看一看，非常好，像《人類簡史》已經(jīng)很有名了，后來還有兩本。

同學三：老師您好，我是大三的本科生，專業(yè)是生物醫(yī)學工程。關于您剛才講的故事，我有一點要補充一下，赫拉利講的這個故事，它不一定是虛構的，它有可能也是在一定程度上反映現(xiàn)實的，但是它比現(xiàn)實要更加容易聽懂，所以他更加容易被別人接受。我想就您剛才講的赫拉利的觀點，進行一個延伸的提問。現(xiàn)在大家都知道人工智能的信息革命時代已經(jīng)到來了，是人類有史以來，或者說幾次革命以來性質最為不一樣的一次革命，因為出現(xiàn)了硅基生命。在赫拉利的這個觀點里面，現(xiàn)在AI自己就會創(chuàng)造故事了，那么這里面一個典型的例子就是所謂的數(shù)字殖民主義。在古代人類無聊的時候，他可能會去打獵，他可能會去發(fā)明象棋去玩一些游戲，但是現(xiàn)在我們無聊，我們就會刷手機，我覺得這個是最弱的一種殖民方式。那么最深刻的一種殖民方式，是比如說像谷歌這樣的搜索引擎軟件，大家都用谷歌，大家都用bing搜索，數(shù)據(jù)或者說power在現(xiàn)在的時代，相當于這些科技巨頭掌握了全世界通過搜索流入公司的數(shù)據(jù)，然后他們就可以創(chuàng)造出AI。甚至谷歌有一句話竟然說，我們的使命是讓所有人都要使用AI這個搜索軟件，但為什么免費呢？因為我們需要的是數(shù)據(jù)，不是搜索。那么問題就來了，人工智能時代的革命剛剛開始，但它顯然還沒有到達非常深刻的地步，可能已經(jīng)開始深刻了，隨著數(shù)據(jù)的規(guī)模越來越大，不可避免的是，如果在現(xiàn)實世界之外，還有一個所謂的數(shù)字世界的話，像是科技巨頭這樣的掌握數(shù)據(jù)的公司，他們占領的疆域是最大的。

劉鈍教授：早晚有一天，人工智能要取代我們，它現(xiàn)在的表現(xiàn)在許多方面已經(jīng)超過我們了，會不會對我們的種群構成威脅，這是我的擔心。

同學三：您覺得這樣的發(fā)展趨勢，它的危險性在哪里？以及造成這樣的危險的原因是什么？它缺少了什么東西？

劉鈍教授：你剛才已經(jīng)講了，原因就是我們會被大數(shù)據(jù)控制，現(xiàn)在才剛冒頭，但是發(fā)展的速度非常非常快，想象不到的快。以前有個集成電路的摩爾定律，AI的發(fā)展完全打破了摩爾定律。人工智能發(fā)展特別快，早晚有一天我們都會被數(shù)據(jù)控制，或者說被你剛才說的壟斷公司控制。現(xiàn)在美國已經(jīng)出現(xiàn)苗頭了，極端個人主義者和技術法西斯合流，在世界最強大的國家我行我素，這種苗頭會不會波及到全世界？此刻人類有沒有辦法拯救自己？這正是我們要講述代達羅斯跟伊卡洛斯，來回顧羅素這樣的哲人的一些想法的原因。至于技術上的深刻原因，這不是我的專業(yè)能夠解答的。謝謝你的問題。

同學四：劉老師您好，我是2023級的，目前是大二，機器人工程專業(yè)。羅素和霍爾丹的辯論是在20世紀20年代的，霍爾丹主要是擔憂倫理會制約科技的發(fā)展，羅素是擔憂有權力者利用科技去影響倫理，導致倫理的崩塌。但是我覺得他們都有一定的時代局限性，在隨后的20世紀四五十年代，我們會發(fā)現(xiàn)隨著核武器的出現(xiàn)，至少在國家層面上，我們發(fā)現(xiàn)科技反過來成了一種提高人類道德底線的事物。因為自打有了核武器，大規(guī)模的熱戰(zhàn)已經(jīng)幾乎消失殆盡了，取而代之的是局部戰(zhàn)爭。那么在國際層面上產(chǎn)生的這種影響是否意味著在未來有可能出現(xiàn)某一種技術，使得我們作為最平凡的個人，也有能力去挑戰(zhàn)所謂的科技托拉斯以及一眾很龐大的個體，從而達成個人和托拉斯之間的某一種平衡？在這樣的構想下，未來又會產(chǎn)生什么樣的變化，會造成什么樣的結果，以及人工智能是否會成為這樣一個角色的存在？我想在這個問題上請教一下劉老師。

劉鈍教授：這么宏大的問題，我也很難回答。其中一個觀點我可以補充一下，廣島原爆四年后，蘇聯(lián)也放了個大爆仗，在此之后世界其實處在一種恐怖平衡當中，我們?nèi)祟愐呀?jīng)茍活了70年。你現(xiàn)在想想某些人的威脅，想想在烏克蘭與歐洲發(fā)生的事情，在敘利亞和巴勒斯坦發(fā)生的事情，要是都不妥協(xié)，非要打到底，惹急了狗跳墻，什么事情都會發(fā)生，所以是難以預測的。現(xiàn)在我們?nèi)祟惖拿\就處在一個不確定狀態(tài)，uncertainty，完全不確定，不知道明天是什么樣。個人怎么樣跟托拉斯達到一種平衡，那更是宏大的問題，我也不知道。我們都被托拉斯控制著，有形的和無形的，你被控制你都不知道。

田松教授：關于不確定性的問題，我還要推薦一下，清華大學社會學系的孫立平教授，他也退休多年了。大家可以搜一搜他的公眾號，他反復地講，我們正處在一個高度不確定的一種社會狀態(tài)，各方面都難以預測。

同學五：謝謝劉老師，我是今年南科大的博士新生，我想問的是關于科學倫理上的問題。我們所謂的倫理上認為，如果不給科學發(fā)展設限的話，它就會威脅人類存在。比如說硅基生命取代碳基生命，以及基因編輯這些問題，但是這個論斷它所基于的一個基點是，我們默認維持人類存在應該是件好事。所以我想問一個比較激進的問題，如果我們不認為它是一件好事，或者它不是唯一的好事的話，這是不是可以改變我們對于科學發(fā)展限制的一些考慮呢？

劉鈍教授：你這個問題特別精彩，我也回答不好。我覺得要從兩面看，你要是一廂情愿地認為維持我們智人的生存永續(xù)是好事，那可能會非常失望，因為我也活不到那一天，可能你們的兒子孫子輩會看到那一天，真的出現(xiàn)一種新的人類嗎？有可能，現(xiàn)在我看是招架不住。我跟田松兄是同一個學術圈的，但是我一開始并不贊同田松兄的激進言辭，他老兄公開打出反科學（主義）的旗號，說要警惕科學家，我不敢說這種話。但科學發(fā)展到今天，發(fā)展到影響到我們普通人的日常生活，影響到我們生命本體，影響到我所關注的霍爾丹的專業(yè)群體遺傳學，影響到我們種群命運的時候，我覺得人類真的要換一種思路了，于是對田松兄的主張有了一些共情。過去我們認為有些事是不可能的，現(xiàn)在看來什么匪夷所思的事都可能發(fā)生。硅基生命取代碳基生命，一定是這樣的，所以要提前做好準備。也許不是壞事，我們應對得好，對后代就不是壞事。太好的問題，應該寫一篇專文，我現(xiàn)在寫不了，你考慮寫吧。

田松教授：比較遺憾，今天吳巖教授在廣州開會，其實今天討論的話題有好多跟吳巖教授的工作相關，吳巖教授是我們?nèi)宋闹行牡慕淌冢野阉Q之為“中國科幻的教父”。他最早在北師大開科幻課程，也在討論我們的未來，硅基和碳基生命。可能你問到的這些問題，在科幻小說里都已經(jīng)討論過了，在科幻小說里都已經(jīng)表達過了。包括劉鈍老師也講了赫胥黎著名的反烏托邦三部曲《美麗新世界》，也被譽為一個重要的科幻小說，那里面講的真是科幻，剛才劉老師也介紹那種情節(jié)了。所以我們面臨的很多倫理問題，我們作為科學史人，作為科學哲學人在討論。那么另外一個，我覺得科學史還是有意思，聽到劉老師講神話，講故事，看圖，都有意思，純粹講科學倫理可能大家聽著就會比較悶，但是看科幻小說應該跟科學史同樣有意思。

同學六：我本來可能要提一個比較長的問題，如果短一點，那我就直接這么說吧。我們科學研究會發(fā)現(xiàn)生命的意義在于可能是沒有意義，你越理解生命的本質之后，你就越可能去創(chuàng)造出類似自己的生命，你會發(fā)現(xiàn)它的發(fā)展過程是不存在一個意義可言的，那么這時候科學就不能有助于這個社會的穩(wěn)定了，因為科學不能告訴你這個方面的答案，怎么讓生命更有意義，讓生活更加美好。科學給不了答案，那么當硅基生命和碳基生命融合的時候，我們碳基生命怎么能有更多的選擇去活在碳基生命這個圈子，而不是被硅基生命所控制？怎么有更多的選擇和硅基生命一起聯(lián)合，讓我們兩類生命共同繁榮去發(fā)展，這方面我們該如何去做？

劉鈍教授：特別好的科幻小說的素材，我不回答了，你也可以做很有意義和很有趣味的類推，想象我們的祖先跟尼安德特人在歐洲相遇的情況，考古學證明他們曾經(jīng)生活在同一個屋檐下，尼安德特人肯定也想繁衍生存，但他們斗不過更聰明的我們的祖先，好，謝謝。

田松教授：謝謝最后一個問題，它讓我們考慮意義問題，人生的意義也好，生命的意義也好，它不是科學研究出來的，它原本是在你的生活世界里面，在你的社會文化中養(yǎng)成的，不會說因為研究，如果你原來沒有一個社會文化的、生活世界的底子的話，即使研究出來意義，可能你也不會去接受吧。可是你的社會生活、社會文化，這個恰恰是我們當代社會所缺乏的，而這個意義在某種程度上，其實應該是我們?nèi)宋膶W術所提供的。如果我們在基礎教育的過程中沒有足夠地接觸到我們自身的歷史文化，那么這個意義的建構就缺失了，那么等到你進入到高等教育的階段，通過科學研究來建構，那恐怕只能是一個虛無的意義了。所以在這一點上，相當于給我們?nèi)宋膶W術做一個廣告，人文學術是提供著生活意義的這種基礎性的東西，雖然我們作為理工科大學，但我們的基本的人文素養(yǎng)還是非常必要的。所以大家還是要多花點時間來選我們?nèi)宋纳缈仆ㄗR課。

2024年12月15日，劉鈍應邀在南方科技大學演講（南科大講堂No.388），田松主持。以下是根據(jù)錄音和PPT演示文稿整理的演講稿的問題互動部分。張美玲、潘雅萍據(jù)錄音整理，田松審校，復經(jīng)演講人過目刪定。完整意見稿請參看劉鈍《霍爾丹與代達羅斯——神話、科學、社會與倫理》（上海科技教育出版社，2025年）25-51頁。本次發(fā)布前有微小潤飾。