人類將如何面對自己的創造物？
中國近年來的影視作品，從各方面看進步都非常快，包括以往國內較少嘗試的科幻題材，也有了不少值得稱道的作品。中國的科幻創作曾長期處在“科普綱領”的強烈影響之下，許多人，包括相當多的創作者，習慣于將科幻視為科普的一種形式，而且還是以青少年為讀者對象的低幼形式。當國內科幻小說作家整體上在20世紀90年代完成了“和國際接軌”的轉變之后，影視作品仍然滯后。直到最近幾年，在優秀作品帶動下，在相關政策引導下，情況才有了較為明顯的改變。影片《流浪地球》的成功，真正開啟了中國影視的“科幻元年”，信非虛語。
在告別了“科普綱領”之后，這絕不意味著優秀的科幻作品不會在客觀上繼續發揮科普的實際作用，科幻作品最值得重視的價值就是它的思想性，而思想性恰恰是國內科幻作品的短板。這塊短板亟需有作品開始將它補起來。今年，一部30集科幻劇集《你好，安怡》（以下簡稱《安怡》）在這方面做了相當成功的嘗試。
雖然《安怡》有著一般青春劇的形式，主要是一群青春靚麗的年輕人的故事，用親子關系、愛情等輔線來幫助推進情節，但編劇看來對人工智能問題做過不少功課，對于當下有關人工智能的幾乎所有重要爭議和思考，劇中都有所表現或回應，這在以往的國產科幻影視作品中比較少見。
機器人的人權、三定律、圖靈測試
首先是機器人——可以平移為克隆人、復制人、人造人……在《安怡》中是“芯機人”——的人權問題。在無數涉及人工智能題材的科幻作品中，機器人的人權問題經常被作為主題或主題之一。《安怡》中那些已經有了自我意識的機器人，希望得到人類的平等對待，它們痛恨人類將自己看成一臺機器，特別痛恨人類在挽救一個人類生命時，可以毫不猶豫地犧牲機器人的生命。這其實也就是希望獲得人權。在《安怡》中，正面角色都認同了這一點，這可以理解為劇集主題贊成承認機器人的人權——如果它們的自我意識已經具備或覺醒，并且在各方面足夠優秀的話。
阿西莫夫在他的小說中提出了著名的“機器人三定律”。國外一些涉及人工智能的早期作品中，還要鄭重其事地找機會將這三定律宣示一番。《安怡》中也對“機器人三定律”有所宣示，但安排得比較自然。值得注意的是，電視劇對違反三定律的現象有所思考。劇中出現了受罪犯操控的機器人殺手，而劇中人物明確指出，這樣的機器人直接違反三定律中的第一定律“機器人不得傷害人類”。這個情節背后的道理雖然簡單，卻可以直接推論出：任何軍事用途的機器人都是直接違反三定律的。事實上，根據“機器人不得傷害人類”，我們甚至不可以讓機器人來對一個死刑犯人執行死刑。死刑必須由人類來執行。
著名的“圖靈測試”，是國外一些科幻影視作品中喜歡表現的內容，比如影片《機械姬》（2015），詳細展示了反人類的機器人如何通過測試，而《安怡》將這個問題直接轉換為機器人和人類的識別問題。在電視劇設想的情節中，機器人通過“圖靈測試”早已不是問題，楊小蘭長期隱瞞自己的機器人身份，在政府部門擔任公務員；文浩康甚至一直在機器人專家程世光身邊擔任助理和親信，也沒有讓程世光發現他其實是機器人。這表明主創并不認為機器人通過“圖靈測試”有什么劃時代的意義。
奇點和自我意識
在《安怡》中，最重要的懸念是“奇點”。類似科技狂人的機器人專家程世光，以及心懷深深怨念潛伏在程世光身邊后來兇相畢露的機器人文浩康，都心心念念要“開啟奇點”。但是，“奇點”如何開啟？開啟之后意味著什么？這兩個角色都沒有想明白。事實上，主創對這兩個問題顯然也沒有想明白——眼下誰能將這兩個問題想明白？
“奇點”之說的流行，源自庫茲韋爾寫于2005年的暢銷書《奇點臨近》。書中鼓吹，到2045年，人工智能將超越人類，那時就是“奇點”的到來：“奇點涉及很多方面，其發展速度是近似垂直的指數增長，技術的擴展速度也幾乎是無限的。”書中還明確預言，2020年之前人工智能將通過“圖靈測試”，現在看來至少是估計得過早了。
庫茲韋爾的書雖然總體上有呼喚“奇點”的姿態，但他書中論述給人的印象，“奇點”是一個亦正亦邪的時刻，雖然激動人心，卻也充滿風險。而《安怡》對待“奇點”的態度也是相當曖昧的：不顧一切要開啟“奇點”的，是兩個反面人物，劇中的正面人物都在奮不顧身地阻止“奇點”的開啟。但“奇點”到底意味著什么呢？根據劇中人物的對白，似乎主要是這一點：有自我意識的機器人大量出現。至于“奇點”如何開啟，在此基礎上也就不難想象了：程世光和文浩康都打算將能夠產生機器人自我意識的程序上傳到網上去，讓千千萬萬機器人能夠自我升級，這樣“奇點”就能夠開啟。
于是我們就進入《安怡》中最基本的設定之一，即機器人的自我意識問題。這個問題是國外許多作品喜歡濃墨重彩去描寫和想象的，比如劇集《西部世界》，幾乎整個第一季都在表現機器人自我意識的萌生或覺醒。而《安怡》則采用了簡潔明了的方式，一上來就指明了四個有自我意識的機器人，后來又追加了兩個潛伏的。這些機器人的自我意識，也不是自動萌發的，而是它們的“父親”、人工智能專家李建維直接賦予它們的。
其實人類的意識到底是什么，心理學家、腦科學家、科幻作家、人工智能專家都會關心這個問題。一些腦科學家試圖將人類意識還原或理解為人腦某種物理運動的產物，這雖然具有哲學上的誘惑性，但迄今仍缺乏實證。
而《安怡》將自我意識想象為某一段神秘的代碼或程序，李建維將它寫入了姜離、葉坤、曲思家、小馬、李遙（他們的大腦是電腦）、楊小蘭乃至文浩康的腦中，它們就都是一出場即具有自我意識的機器人。程世光、文浩康為了開啟奇點，不顧一切想要獲得的也就是這段代碼或程序。電視劇的這個想法，有可能得到一部分人工智能專家的贊成，盡管這樣神奇的代碼或程序迄今在現實世界中尚不存在。
人類打算如何與機器人相處
關于機器人的自我意識，有必要順便提到今年引進出版的石黑一雄的最新小說《克拉拉與太陽》。因為大多數涉及人工智能的科幻作品，顯然都更愿意設想機器人自我意識的萌發或覺醒，因為這種自我意識必將與人類的意識沖突，這樣才容易往下編故事，但石黑一雄反其道而行之，塑造了一個徹底“無我”的機器人形象，這也相當罕見。
克拉拉是一個專為陪伴少年而設計的機器人，買下她的家庭對克拉拉也非常尊重，機器人科幻作品中常見的機器人的人權問題，在這個家庭里根本不存在，或者說被石黑一雄簡單回避了。克拉拉真正做到了毫不利己專門利人，為了它負責陪伴的喬西，克拉拉可以做任何事情，甚至不惜損害自己的健康。這和《安怡》中文浩康因為李建維要用自己的腦去挽救兒子李遙的生命而生出無窮怨念，造成鮮明對照。
幾年后，喬西考上了她這個階層的孩子應該上的大學，克拉拉的陪伴使命宣告終結。盡管母親對克拉拉是滿心感激的，但克拉拉仍不能免于被廢棄的命運，這表明人類沒有承認它們的人權。克拉拉在廢棄機器人的堆場上，平靜地、無怨無悔地接受了自己的命運——為人類付出了自己的一切，被人類用完之后卻棄若敝屣。再想一想，人類對于生活中使用的許多器物，不也有這種薄情寡義的態度嗎？
和國外許多電視劇一樣，《安怡》的結尾也是開放的：有了機器人的未來世界，既可能鳥語花香，也可能腥風血雨。人類打算如何與機器人相處呢？這取決于我們賦予機器人怎樣的自我意識。
（作者系上海交通大學講席教授江曉原）
