中國作家協會主管

在“機器人三定律”之外

迄今為止，“機器人學”（robotics）已經成為現代科學技術中的重要學科，其中“機器人倫理”的問題一直都是西方自然科學和人文學科的研究熱點之一。當代機器人學所熱衷探討的“機器人倫理”問題包括倫理標準問題（如何樹立機器人的倫理標準，即如何判斷“對錯”）、環境倫理問題（人和機器人的資源共享或沖突）、生命倫理問題（機器人的機器性與人性的構成與比例）等。在這一領域，被譽為“機器人倫理學基石”的是著名的“機器人三定律”（或稱“機器人學三法則”）。作為一種機器人倫理前瞻，阿西莫夫“機器人三定律”的核心理念在于，科學家所制造的機器人，并非是同自己作對的敵人，而是要服從人的命令，為人類服務。也就是說，機器人和人類的倫理關系更類似于一種“主仆”關系，人類擁有對于機器人的絕對掌控權和領導權。然而，隨著20世紀末和21世紀人類科技的發展和觀念的轉變，這樣一種“服務型”關系，逐漸演變成一種“伴侶型”關系。尤其在未來的50年內，機器人設計理念的主潮將會由提供日常服務和機器作業，轉變為提供精神陪伴和身體慰藉。大衛·李維（David Levy）在《與機器人的性與愛》一書中明確地表達了這一觀點：

在21世紀開始之時，人工伴侶——機器人丈夫、機器人妻子、機器人朋友和機器人愛人的觀念開始逐漸挑戰人們對于“關系”的定義。而在此之前，人類和機器人之間主要是一種主人和奴隸、人和機器的關系。[1]

相比于服務型人機倫理關系，陪伴型人機倫理關系具有一個突出的特征，就是情感的牽涉與互動。對于人類而言，無論將機器人看作寵物、朋友、工作伙伴、戀人抑或親人，都會在機器人身上投注情感，這在倫理關系上比簡單的服務型雇傭關系要復雜和微妙得多。在這些關系中，尤其以戀人式的人際關系最為“離經叛道”。這里所牽涉的問題還并不止于情感的投射——隨著科技的發展，與機器人的性關系也可能會成為21世紀的發展趨勢。這樣的一種“人機戀”甚至是“人機性”必將對于人類的既定倫理和道德規范產生強烈的沖擊和深遠的影響。

“人機戀”的小說與電影

在虛構場域，這樣一種人與機器人談戀愛甚至做愛的情節，在20世紀尤其是后半葉的科幻小說和電影中并不乏見。這些科幻作品往往刻畫機器人同人類之間的情感關系（愛情、友情、親情），尤其是將“情感”的“自由意志”等人類特性賦予了機器人。這些小說不斷改變著人類對于機器人的既定認識和倫理關系，也在客觀上推動著“陪伴型”機器人產品的設計研發。

盡管具有爭議，但大多數的科幻研究學者都將瑪麗·雪萊于1818年創作的《弗蘭肯斯坦》作為科幻小說的開山之作。這篇小說寫的就是人造人的故事，其中的怪物就是科學家弗蘭肯斯坦利用死人的器官拼湊而成的。這一怪物暗含了人性的兩種特質——善與惡，他本來秉性善良，但由于遭到人們的嫌惡和歧視，于是變成了殺人惡魔。這部小說并未牽涉“人機戀”的問題，但這一孤獨寂寞的原型成為后來很多小說和影視作品中人物形象的來源。例如，在1990年由蒂姆·波頓執導的電影《剪刀手愛德華》中，雪萊小說中的怪物原型就演變為渴望愛情的機器人愛德華。雖然也被人類嫌棄鄙夷，但愛德華依然保持善良的品性，而且無怨無悔地愛著少女金。“弗蘭肯斯坦”式的愛情故事，在愛德華這一機器人的身上續寫得唯美而哀傷。

圖1 電影《剪刀手愛德華》（1990年）劇照

作為創造“機器人”（robot）這一詞語的作品，1920年捷克作家恰佩克的《羅素姆萬能機器人》描寫了一群被人類制造出來，用以為人類勞動和服務的機器人。而后，這些機器人在被改進并擁有了思想后，便開始反抗人類并發動暴亂。這部作品和《弗蘭肯斯坦》一起，奠定了早期科幻小說中機器人作為人類對立面的“惡魔化”性質。這部作品雖然重在描寫人類和機器人之間的沖突，但它在結尾處還是涉及了一點機器人的情感問題。由于機器人無法生育，因此最后只剩下一男一女兩個機器人。人類工程師威脅要解剖他們，他們卻互相庇護，同時感受到人類的思想和情感，于是在某種程度上成了新的亞當和夏娃。這樣一個結尾，留給后來的科幻小說家無限空間，去挖掘和描寫機器人的情感歷程。

在20世紀30年代以后開始的科幻“黃金時代”中，有關機器人的科幻小說日益增多，并開始描寫由鋼鐵和金屬構成的機器人，它們大都是“鋼鐵工人”。在這類科幻小說中，貢獻最大的是阿西莫夫。作為科幻小說史上重要的大師之一，阿西莫夫寫了一系列機器人題材的短篇小說以及長篇小說“機器人三部曲”（《鋼窟》《裸陽》《曙光中的機器人》）。從阿西莫夫開始，機器人不再作為人類的敵人出現，而是成了人類的朋友和仆人。在人類和機器的倫理關系上，相比愛情，阿西莫夫更側重于描寫友情、主仆關系，或者一種類似于同事的合作關系。然而，根據其小說改編的電影出于商業考量，則十分注重表現愛情故事，無論是《我，機器人》還是《機器人管家》等，都是如此。

或許是由于倫理道德規范和秩序的約束，“人機戀”這一題材的科幻文學作品其實并不多，但還是有一些科幻作家挑戰了這一倫理禁區。在萊斯特·德爾·雷伊（Lester Del Rey）的小說《海倫》（1938）中，工程師戴維將一個家用機器人改造升級成為擁有感情的個體，他們兩個相愛并結婚了。而后，機器人不得不痛苦地面對工程師死后的孤獨和思念。雷·布拉德伯里（Ray Bradbury）的小說《馬里奧納特公司的機器人》（1949）中的男主人沉溺于工作，于是用一個復制于自身的機器人代替他履行丈夫職責，但機器人和他的妻子彼此產生了深深的愛慕和依賴。另外，在伊拉·列文（Ira Levin）的小說《復制嬌妻》（1972）中，斯戴佛（Stepford）這個小鎮上的男人們串通起來，密謀用百依百順的機器人來逐一取代他們的妻子，卻遭到她們的反對和抵抗。這部作品后來在2004年被改編成大熱的好萊塢同名電影。

20世紀后半期以來，隨著科幻影視作品的增多，一些科幻電影或電視劇涉及了“人機戀”甚至“人機性”的主題。例如，在美國的長壽肥皂劇《我們的日子》中，主人公尤金從未來帶回了他在未來社會制造的妻子機器人副本，后來從未來追蹤而來的神秘男子將尤金的妻子帶走了，留下尤金和機器人幸福地生活在一起。另外，在美國電視劇《我的玩偶》（1964）中，女機器人羅達被送至空軍處工作，卻同她的上司談起戀愛并認真生活起來。在電影《王牌大賤諜》第一部（1997）的結尾，主人公奧斯汀同可愛的凡妮莎舉行了婚禮，但在續集電影中卻揭示了她其實是個機器人。然而，兩個人的相愛和婚姻已成事實。另外，在亞洲電影中，韓國電影《電子人也無所謂》（2006）、日本電影《我的女友是機器人》（2008）、印度電影《機器人之戀》（2010）等都講述了東方版的“海倫”式人機戀的故事。在近年的電影中，機器人不僅能和人類戀愛，而且成為人類價值的延續，例如《她》（2013）、《機器人世元》（2014）、《機械姬》（2015）等。

圖2 日本電影《我的女友是機器人》（2008年）劇照

機器人的倫理身份與主體性

在這些“人機戀”的小說和電影中，一方面，作者和導演大都不將機器人作為完全的異類進行描繪，反而加諸很多美好的精神品質。機器人身上的困惑、孤獨、歡樂、哀愁，還有他/她們的性別、心理、身份等，在某種程度上是人類群體的投射。另一方面，機器人畢竟與人類不同，因此這些科幻作品中的機器人也擁有與人類不同的特征。除了外表的差異，機器人往往擁有比人類更大的力氣和能力，且更加聰明、理性、有邏輯。然而，科幻作品中的機器人往往放棄自身機器性的諸多優勢，選擇并追尋人性的情感特征。而這一轉變過程的動因和關鍵因素就是情感意識，尤其是愛情意識的萌發。尤其在《機器人管家》中，機器人安德魯并非為了獲得“自由”或擁有“個性”而希望變成人類，而是因為他愛上了馬丁家“小小姐”的孫女波西婭，希望能夠體會屬于人類的愛情。這樣一個機器人版“海的女兒”的故事，其實可被看作一則倫理身份轉變的寓言。而他最終也如小美人魚一樣，在實現夢想的同時付出了代價：作為機器存活了200年的他，在變成人類后不得不馬上面對死亡。另外在斯皮爾伯格導演的《人工智能》（2001）中，五歲的機器人男孩大衛作為人類的替代品，渴望得到真正人類的母愛，在這一動機的驅使下，他在被拋棄后開始尋找制造自己的父親——哈比教授。這一故事所呼應的童話，無疑是18世紀意大利作家卡羅·科洛迪（Carlo Collodi）所創作的《木偶奇遇記》，只不過童話中的“獅子森林”變成了高樓林立的后現代曼哈頓，“藍仙女”則化身為哈比教授，而大衛作為機器人，只不過是大規模流水線商品中的一個。

圖3 根據阿西莫夫小說改編的電影《機器人管家》（1999）劇照

借由安德羅、大衛或其他機器人的故事，我們能夠得見機器人倫理身份轉變的邏輯：他們被制造出來是服務人類的，這是他們與生俱來的、被人類賦予的“身份”，是他們作為人類的客體被強加的。然而，他們并不安于這種既定的身份，對于機器的統一性身份產生了排斥，從而產生了對于人類屬性，尤其是情感屬性的“認同”。這種認同是自我反思與定義的結果，顯示了他們作為一種主體對于人類身份特征的追求。人類的情感特質，無論是愛情還是親情，都是屬于人類的倫理關系和情感方式，在機器人的倫理世界中是沒有的。因此，對于情感的追求，對于人類倫理的認同，彰顯了機器人的主體性。

作為科幻小說的作者或導演，阿西莫夫、塔尼斯·李或斯皮爾伯格等人對于看似叛逆的“人機戀”故事進行了正面積極的再現，無論是對于機器人“尋夢”的強調，還是借由童話故事原型所創造的互文效果，其實都緩和或消解了讀者或觀眾對于“人機戀”的敵意和抵抗情緒。通過這種方式，“機器人三部曲”所彰顯的“人類優越性”原則被顛覆和解構，人類對于機器人的絕對控制權被質疑和推翻。

機器人學中的“人文邏輯”反思

學者莫頓·克拉斯（Morton Klass）認為科幻小說中機器人形象的核心特征是“人造的異類”（artificial alien），認為它們如同外星人一樣，具有與人類完全不同的特征，且“在各個方面威脅著人類的存在”，但“除了一個方面”，即“它們對于人類并沒有性愛的威脅”[2]。克拉斯的論文發表于1983年，她絕對想不到在短短的30年內人工智能領域的科學發展速度如此之快，更加想不到科幻小說的探索范圍和力度也會如此日新月異。在機器人學領域，一個重要的突破便是2005年韓國科技高級研究所的金正煥（Kim Jong-Hwan）所研制出的具有基因和染色體特征的軟機器人“Sobot”，它具有14種軟件系統的智能染色體，能夠感受47種不同的刺激，擁有77種行為方式。也就是說，當機器人擁有各自獨立的“個性”特征時，便能夠對于不同人、物和環境具有不同的反應，于是冷熱、疼痛、舒服、喜歡、討厭等差異性感受便不再是有機生物體的專利。按照這一趨勢，機器人和人類的情感互動或許并不遙遠。值得慶幸的是，我們有很多科幻小說作為參照。這些虛構性的文學作品已經提前想象并敘述了這一挑戰現行倫理秩序的人機關系。“人機戀”的故事雖然挑戰了人類的倫理和道德規范，但卻迫使人們思考未來可能會面對的難題。

從另一個角度來說，作為“人類的鏡像”，機器人的倫理身份、倫理沖突等問題其實也折射了人類社會的種種現象。“人機戀”正如很多“不尋常”的愛情形式和觀念一樣，在真正的合法化和合理化之前，必定會遇到倫理規范的牽絆、制約和阻撓。那么，科幻小說中“人機戀”的興盛與機器人倫理身份的轉變（從機器到人）這一趨勢是否是合理的？或者說，對于性化的順從是否就是正確的？亞當·羅伯茨曾在分析《正電子人》時說過：

機器總是被認為在本質上沒有有機生命體那般真實，因為它們落入了技術而不是真理的范圍。正是這一修辭主導了對于機器的貶低。[3]

從這一角度來說，為什么一定要將機器變成人，而不是人變成機器，才能實現真正的平等？機器和技術本身為何一定比人文或真理的地位低？一旦脫離了人文邏輯的范疇，機器倫理本身是否能夠依靠純粹的理性和推理實現更完美的結構？

有趣的是，書寫了機器人變成人類寓言故事的阿西莫夫持有一種觀點，認為未來的趨勢并非是機器會變成人，而是人會被機器取代。他認為：“就像從我們身體中呱呱墜地的孩子最終會取代我們一樣，機器人也是人類智慧的產物，它最終也可能會取代我們。”他做出這一驚人推斷的原因是“我們創造的智能機器確實比我們優越，而且他們會朝著理解和利用宇宙的目標努力邁進，達到我們無法企及的高度”。[4]這句話，對于機器人學中盛行的“人文邏輯”來說無疑是一記重擊。然而我們不妨將此問題一分為二來看：既然有想變成人類的機器，那么也就存在想變成機器的人類。于是在科幻中，我們除了機器人之外，還有賽博格（cyborg）。正如機器人追求人類的倫理關系和情感意識，人類也追求著機器的體力和智能優勢。而機器人小說和賽博格小說的交織，也必將令“人機戀”的倫理問題變得更加復雜。

作者簡介

陳濤，博士畢業于新加坡南洋理工大學哲學專業，現為中國人民大學文學院副教授、碩士生導師。主要研究方向為電影和新媒體藝術。

參考文獻

[1] DAVID LEVY. Love and Sex with Robots：The Evolution of Human-Robot Relationships[M]. New York：HarperCollins Publishers， 2007：12.

[2] MORTON KLASS. The Artificial Alien：Transformations of the Robot in Science Fiction[ J]. The Annals of the American Academy of Political and Social Science， 1983，470(1)：171-179.

[3]亞當·羅伯茨.科幻小說史[M].馬小悟，譯.北京：北京大學出版社，2010：214.

[4]阿西莫夫.阿西莫夫論科幻小說[M].涂明求，等，譯.合肥：安徽文藝出版社，2011：161.

本文轉載自《科普創作》2019年第3期。