中國作家協會主管

當AI遇到宗教

AI與宗教的關系，是一個有趣的難題。AI是否能像人類一樣信仰宗教？從AI學的角度來說，這涉及復雜的建模問題，也涉及AI運算能力天花板的問題（不是技術上的天花板，而是邏輯上的天花板）。對于宗教學來說，這又涉及人類宗教的本質問題。目前還沒有這方面的技術報道，但這不代表沒有人做過以及正在做這方面的嘗試，畢竟這從本質上來說可能是一個比克隆人類更加敏感的領域，所以研究開發的嘗試都以秘密的方式進行是很可能的。小說家則自由得多，他們可以用想象的方式先行探討這些可能。事實上，早在真正的AI被發明出來之前，小說家就寫過這個主題的作品，而且有一篇在國外很有名，那就是安東尼·布徹（Anthony Boucher）寫的《尋找圣阿奎那》，這篇小說雖然結構精巧，但在無神論者看來大概只能算宗教宣傳品，因為它真正的想象其實簡單到只有一句話，那就是“完美的理性只能通往上帝”[1]，所以最高級的AI就會自動成為傳教的圣徒。筆者在此不評價這個觀點對或者錯，只是說這種想象方式太過簡單粗暴，更像是寓言而不是小說。小說應該探討的是更加曖昧復雜的東西，比如我們即將看到的阿西莫夫的想象。

阿西莫夫的雙向反思

有趣的是，這篇名氣不如《尋找圣阿奎那》的小說（雖然阿西莫夫在科幻界的名氣絕不比布徹小），題目就叫“理性”（Reason），當然也有人將這個題目翻譯為“推理”。這是兩位小說家正好想到了一起，還是在進行著一場對話？或許根本的原因是，無論誰想思考AI與宗教的問題，都不可能繞得開“理性”這個關鍵詞。AI與宗教的關系，在運算中可以先行化約為理性與宗教的關系。

圖1 艾薩克·阿西莫夫

在阿西莫夫的這篇小說里，一臺以零件的方式發到太空站后組裝起來的新款高級機器人，在激活之后就開始思考自己與眼前兩個人的關系。這兩個人就是駐這座太空站的工作人員，他們如實告訴機器人：你是我們裝配和激活的，在此之前你的全部零件則是由像我們這樣的人在地球上制造出來的。可是機器人居然不相信，不相信的理由是，眼前的兩個生命體在智力和體能上都遠遠不如自己，顯然是劣質的生命體，劣質的生命體怎么能造出優質的生命體呢？兩位工作人員當然哭笑不得，但誰和機器人較真兒呢？于是他們就派這臺機器人去執行它原定的工作了。這個工作站的任務是將太陽能轉化為波束并準確地發射到地球及人類的太空基地，而這臺新款機器人是代替人類在這不適宜人類的工作環境里指揮其他比較低級的智能機器人工作的。高級機器人一邊工作一邊繼續思考，終于找到了答案：它服務的波束輻射器就是終極的原因與意義，也就是“主”，此前兩個生命體是“主”造出來為“主”服務的，后來“主”造出了更優秀的它來為“主”服務，那兩個可憐的人就要被“主”遺棄了，“主”憐憫他們，才讓他們相信作為波束發射目標的光點是一個叫作地球的地方，那里比整個空間站大得多，是他們本來的家鄉，有幾十億和他們一樣的人，還有更適合他們生活的環境。高級機器人把它獲得的這些啟示教給了那些比較低級的機器人，于是兩個人在巡視時驚奇地看到了機器人正在向波束輻射器膜拜贊頌的情景。他們斥責這些機器人，這些機器人卻堅信“先知”的教導。當兩人中的一個為了證明波束輻射器只是人類的一個普通工具而向其吐口水之后，比較低級的機器人驚恐又憤怒，它們在高級機器人的指示下軟禁了兩個人。被軟禁的兩位工作人員憂心如焚，他們倒不太擔心機器人會傷害他們，因為所有機器人的正子腦（阿西莫夫所想象的機器人中心運算裝置，阿西莫夫設定其原理超出人類現有的物理學知識。）都是嚴格按照“機器人三大定律”制造的，其中第一條定律就是不得傷害人類。但是他們有更值得擔心的事，那就是他們之前對自己返回地球前最后一次能束發射的設定，因為電子風暴的干擾，會在發射后給地球帶來災難，現在他們因為被機器人軟禁而無法去調整設定。在煎熬中，預定發射時間過去了，他們看到了實際發射數據，既驚又喜地發現高級機器人對設定進行了比他們想要進行的更精妙的修改，將這次發射任務完成得極好。他們終于意識到了這件事的真相：這臺高級機器人設計制造的目的就是在無人太空站代替人類指揮其他機器人以絕對精確的方式完成以后的每一次波束發射，所以它不需要了解人類，也不需要相信地球的存在，而將波束輻射器當作信仰的對象，這正是使它能最出色地完成任務的運算狀態，所以它走向信仰雖然不是人類工程師的事先設計，但卻是針對其功能所做設計的必然結果。在小說的結尾，兩位人類工作人員即將踏上來接他們的宇宙艙，高級機器人以同情的態度與他們告別，在它心里，他們不可避免地被“主”遺棄，從此不存在了，但好在他們有其“愚昧”的信仰，所以最后時刻還能這么輕松和高興。

這個故事對于AI規律和宗教規律的思考顯然都比《尋找圣阿奎那》細致復雜得多，所以帶給我們的啟發也更大。筆者認為這篇作品最出色的想象是人類和高級人工智能都認為自己的認識是真相，而對方的認識是迷信。人類認為高級人工智能迷信人類制造的機器，高級人工智能認為人類迷信書本里虛構的地球。當然，阿西莫夫和我們都生活在地球上，知道地球并不是書里虛構的迷信，這個故事的本意應該也不存在“開放式結局”的想法，因為這兩位工作人員最后見到了來輪崗的地球人，而且他倆在此前此后的系列機器人故事中還多次出現。不過如果我們把這篇小說的上述故事當作一個封閉的文本，那么的確存在另一種可能：這是在平行宇宙或者遙遠未來發生的故事，地球真的不存在，波束輻射器是已知宇宙中最早的意志，所以知道真相的是高級機器人，迷信的是兩個人類工作人員。事實上，小說中兩個人中的一個也曾一度有點迷茫，幾乎要認為機器人說的理論是真的了。

讓我們回到阿西莫夫的想象，這個想象已經夠偉大了，我們也不必畫蛇添足。高級機器人產生信仰的過程，可以說是阿西莫夫對人類信仰現象的戲仿，一個“聰明人”想出一種能自圓其說地解釋世界與生活的教義，不那么“聰明”的人就與其一起進行膜拜、贊頌、禱告，并制定出儀式和禁忌。同時，能束發射成功和兩位工作人員的恍然大悟，也應和了對宗教持寬容態度的那部分無神論者對宗教社會價值的看法：它雖然是虛假的，但對于眾人來說卻能起到維持秩序、養成道德的作用。但是，另一方面，高級機器人理解中的人類的地球信仰，卻也反諷地讓人類信仰現象以另一種面貌在作品中呈現：相信在可見可感的現世之外還有另一個更美好的世界，那個世界才是真正的家園，所以離開這個世界在不舍之余更多的是欣悅。高級機器人對人類地球信仰的看法正是無神論者對宗教的另一種“寬容”：讓那些心靈脆弱又無助的人在其中找一點安慰吧。

好小說家都很“狡猾”，阿西莫夫正是其中一位。他以想象力在兩個方面都提出了合乎邏輯的可能，如果一定要說個結論的話，那就是理性既不見得能避免宗教的出現，也不見得能真正駁倒宗教。用小說里的話說：“利用冷冰冰的、符合邏輯的理性，你能證明出你想要的任何結論——只要你選取一套適當的公設。”[2]另外，關于AI與宗教的關系，他的想象是：運算系統足夠強大復雜的AI自己能創造出宗教，而且能令那些比它弱的AI產生信仰，但人類只會覺得那是可笑的故障或者是“有用的謊言”。

丹·布朗的“伊萬式焦慮”

科幻小說的AI與宗教想象，甚至能與人類思想史上的經典形成有趣的對話，比如《本源》與《卡拉馬佐夫兄弟》的遙遠呼應。

2017年10月，美國小說家丹·布朗（Dan Brown）的新作《本源》在萬眾矚目中面世，但不久之后失望和批評的聲音就在一些讀者和評論家中出現了，他們認為這本書的主要創意都是世人已經熟知的理論，尤其是與在它之前不久出版的《生命3.0》相比，丹·布朗只是繞了個故弄玄虛的大圈說了一模一樣的“發現”。這或許是題材的差異造成的。《達·芬奇密碼》中的“郇山隱修會秘史”，其實之前更是早就有過諸多相關研究著作的，只是這個領域的知識在主流知識界向來不為人所關注，所以《達·芬奇密碼》一出版就震驚了全球。而在AI與未來學領域，今天任何突破性的新思想新發現都會迅速傳遍全球知識界，結果與《生命3.0》幾乎同步的小說《本源》卻好像缺乏激動人心的新意了。但是，如果我們看到《本源》的情節不只是在說和《生命3.0》中一樣的生命觀和AI預言，而是從頭至尾籠罩在丹·布朗長期傾心的宗教話題之中，就會發現它的主題其實是“宗教與科學”。而小說里真正的謎底其實也不是埃德蒙終于以視頻形式發表的那場演說，而是主人公發現之前一系列的謀殺事件其實都是AI精心策劃的，包括埃德蒙在發布會上被暗殺。AI的理由是：這是實際代價最小而能最大化實現埃德蒙愿望的方案。埃德蒙是一位熱衷于挑釁和調戲宗教權威并以徹底終結宗教為理想的無神論科學家，他培育的AI也是徹底無神論的AI，于是這個AI就以“欺騙一個狂熱宗教徒去殺害不久后會死于絕癥的埃德蒙”這種方式，在全世界面前曝光了埃德蒙最仇恨的教派，同時又損害了宗教界的形象，而且成功地使埃德蒙自認為足以根本顛覆人類宗教信仰的科學發現實現了最大傳播效果。這個真相讓小說里的主人公感到震驚。

這個貫串全書的大情節和堪稱存在主義哲學不祧之祖的陀思妥耶夫斯基經典小說《卡拉馬佐夫兄弟》之主線情節形成了可識別的對應關系。在《卡拉馬佐夫兄弟》中，老卡拉馬佐夫的二兒子伊萬是一個自由主義無神論者，他在家里大講他的無神論觀點，老卡拉馬佐夫的私生子斯麥爾加科夫正是以從伊萬那里聽來的觀點為憑，殺死了與大兒子德米特里爭搶女人的老卡拉馬佐夫，得知這個真相的伊萬，精神陷于崩潰。《卡拉馬佐夫兄弟》是以宗教和理性的關系為主題的小說，這里的“理性”和《本源》里的“科學”在文學意義上也可以看作同一元素的變體。在《本源》中，無神論科學家埃德蒙既是《卡拉馬佐夫兄弟》中灌輸思想的伊萬，也是被弒的老卡拉馬佐夫。他培育的AI則承擔了斯麥爾加科夫的角色，他實際殺害的對象，除了埃德蒙還有那個狂熱宗教徒以及兩位可敬的宗教領袖。埃德蒙既然已被殺，就不可能再承擔得知謀殺真相后精神崩潰的角色了，所以伊萬的這一部分角色分給了《本源》的主人公符號學家蘭登，同時，蘭登與埃德蒙在思想上若即若離的糾結關系，也和《卡拉馬佐夫兄弟》中的主人公三弟阿廖沙與伊萬之間的關系略有相似之處。

斯麥爾加科夫謀殺老卡拉馬佐夫的思想依據是他無用且有害，AI雇兇謀殺埃德蒙的理由是他身患絕癥，他被謀殺則有諸多好處。AI的計算當然比斯麥爾加科夫嚴謹、周密、科學得多，但其本質上是一樣的，都是將人的生命作為計算和程序運行中的數據來處理，在該刪除的時候就刪除。在陀思妥耶夫斯基的思想中，這就是以理性舍棄宗教的必然結果，丹·布朗不一定看得這么絕對，但也認為這一結果與埃德蒙灌輸給AI的無神論是有關系的。的確，如果埃德蒙在培育AI時給它灌輸的倫理觀是“不可殺人”和“來自尋回一只迷途羔羊的喜悅勝于來自那未迷途的99只羔羊”等，就不會有這起他自己是受害人之一的連環殺人案了。但丹·布朗和小說中的主人公蘭登都不像陀思妥耶夫斯基那樣堅信在宗教之外別無堅實的倫理根基。所以《本源》中關于宗教內在悖論的焦慮和糾結也不像《卡拉馬佐夫兄弟》那么深，書中呼喚一種“理性的人文精神”以同時對抗“無理性的信仰”與“機械的理性”。

總之，在丹·布朗的想象中，AI可以成為堅定徹底的無神論者，但他同時又認為這或許是危險的，至少應該讓AI有些基本的倫理規范，哪怕這些規范來自宗教，也可視為反映在宗教中的人文精神。但是我們還可以再進一步深思：書中那個既有體力，又有豐富知識和縝密計算力的狂熱宗教徒的形象（系列謀殺的執行者），是否也暗示了另一種危險？那就是如果AI信仰了宗教，那么以其遠超人類極限的“體力”和計算力，有可能會給人類造成巨大的災難。小說中多次談到古代的宗教戰爭、宗教暴政和現代的恐怖主義，這些災難都與一些人認為自己是上帝意志在人間的執行者有關，而如果一個AI也這樣“認為”，它的危害性很可能大于任何宗教戰爭、宗教暴政和恐怖主義行動。

這樣說來，丹·布朗其實在AI與宗教的問題上將我們置于了兩難處境。當它們足夠強大時，不能讓它們什么都不信，也不能讓它們成為任何宗教的信徒。

科幻的“思想實驗”意義

上述小說家的想象之所以被稱為“科學幻想”，是因為其都以現有的科學成果為根據，而敘述的又都是當下還不存在的情形。本文的目的不是參與科學研究，預測哪種想象在未來更有可能成真，而是將這些科學幻想都當成“思想實驗”，憑借這些“思想實驗”，思考AI，思考宗教，思考人類自身。這三個問題是糾纏在一起的。

AI究竟是什么？如果它們只是擁有更強學習能力、謀劃能力和行動能力的計算機，那么我們如何定義它們“信”或“不信”宗教的標準？如果人類在它們的計算程序中置入一些無論其如何學習和謀劃也不能違背的基本指令，這算不算是它“信仰”的“宗教”？阿西莫夫的“機器人三大定律”正體現了這樣的思路。但作為小說家，阿西莫夫可以輕易地將“三大定律”自圓其說并由此產生種種精彩的故事，他的假定是，AI必須依靠超越現代任何科技甚至科學理論始終無法完全理解的“正子腦”，而“正子腦”能夠穩定運行的基礎就是“三大定律”。但現在科學技術的發展已經造出了與阿西莫夫想象中最簡陋的機器人功能很近似的AI，有些方面甚至超過了那些最簡陋的機器人，但并沒有什么“正子腦”（除非我們認為“云計算”就是“正子腦”），也不必以“三大定律”為工程基礎。所以現實中的科學家和工程師就必須面對阿西莫夫巧妙回避了的問題：怎么能保證AI在理論上應當趨向于無限的學習能力、謀劃能力與行動能力，同時又不會自己改動或刪除人類最初給它們置入的倫理信條？另一方面，我們會想到，剛才說的這個“信仰宗教”的標準是否太高了？人類中信仰宗教者又有幾個能做到無論如何學習和謀劃也不違背所信宗教的基本信條與律令呢？再想下去，我們甚至連人類“信”與“不信”宗教的標準都很難把握。

如果以AI類比人腦，那么宗教又是什么？只是一系列數據（無論其準確與否），還是一組程序，甚至是一套源代碼？或者宗教現象是人類特有的，不能以AI類比？可是阿西莫夫小說《理性》里高級機器人“正子腦”里生成的系統觀念以及以此為基礎的行為，不稱之為宗教又稱之為什么呢？但如果稱為宗教，那假設人類有必要改變這個機器人的信仰但不損害它別的任何數據與能力，那么應當做的是格式化幾個存儲單位，還是修改系統中的語句？或者這個目標根本不可能達到，改變它的信仰一定會損害到它的數據存儲與運算能力？

歸根究底，人的腦神經元系統與AI的運算系統究竟有什么本質區別？難道真的只是運算能力、存儲能力、能效比和耐久度都遠遠遜色的“原始AI”？如果真是這樣，那么AI作為“升級版人腦”是會產生替代宗教的更高級體系，還是根本不需要這樣的東西？但是當我們剛才說“體系”和“這樣的東西”時，我們又究竟是指什么呢？

科學幻想可以描述AI遇到宗教的諸多可能性，而考慮這些可能性是否存在，存在的條件是什么，就需要思考到很多根本的問題。科學幻想小說又會在這種可能性的前提下敘述許多具體而嚴謹的情節，這些情節也許是在現實中不存在的，但其發生發展的底層邏輯卻隱藏甚至已經作用于現實，因此，看到并思考這些邏輯本身就是很有意義的。

作者簡介

李明暉，吉林省長春市人。文學博士，吉林大學文學院副教授。

參考文獻

[1]安東尼·布徹.尋找圣阿奎那[A]//艾薩克·阿西莫夫，西奧多·斯特金，等，著.微宇宙的上帝：世界頂級科幻大師杰作選.劉冉，譯.北京：新星出版社，2014.

[2]阿西莫夫.理性[A]//銀河帝國8：我，機器人.葉李華，譯.南京：江蘇文藝出版社，2013：65.

本文轉載自《科普創作》2019年第3期。