中國(guó)作家協(xié)會(huì)主管

看完《西部世界》與《失控玩家》之后，我不禁思考：在人工智能時(shí)代，虛擬的情感體驗(yàn)給人帶來(lái)的安全隱患究竟有多大？NPC也有人權(quán)嗎？

在《西部世界》第一季的第一集中，Dolores的父親曾是一名研究莎士比亞的大學(xué)教授。當(dāng)他看破了西部世界的真相后，分別引用了兩句莎翁戲劇中的臺(tái)詞，第一句是“地獄空蕩蕩，惡魔在人間。”出自《暴風(fēng)雨》，第二句是：“一切殘暴的歡愉，終將以殘暴結(jié)束。”出自《羅密歐與朱麗葉》。 劇中有不少冗余沉悶的片段，但其核心問(wèn)題還是人造人是否能產(chǎn)生意識(shí)和靈魂，以及人造人與其創(chuàng)造者之間的復(fù)雜關(guān)系。至于伯納德與福特各自的結(jié)局，也和《銀翼殺手》以及瑪麗·雪萊的小說(shuō)《弗蘭肯斯坦》如出一轍。第八集中伯納德和福特的一段經(jīng)典對(duì)話是《西部世界》第一季的精華所在，兩人的對(duì)話探討了自我是否是一種虛構(gòu)的問(wèn)題。當(dāng)伯納德問(wèn)出“痛苦只存在于腦海中，它總是想象出來(lái)的。那么我的痛苦和你的痛苦有什么區(qū)別？你和我之間有什么區(qū)別”，福特回答說(shuō)：“沒(méi)有什么門(mén)檻能讓我們超越我們各部分的總和，沒(méi)有什么拐點(diǎn)能讓我們變得像個(gè)真人那樣活著。我們無(wú)法定義意識(shí)，因?yàn)橐庾R(shí)并不存在。”

“在循環(huán)開(kāi)始之前就打破循環(huán)”，這是《西部世界》給出的答案。對(duì)人類(lèi)存在本質(zhì)的思考，使得《西部世界》獲得如潮好評(píng)。如果說(shuō)《西部世界》是一部充滿了末日象征的后現(xiàn)代寓言，那么2021年上映的電影《失控玩家》則看起來(lái)樂(lè)觀許多，塑造了一個(gè)人類(lèi)與人工智能共存的烏托邦世界。

《失控玩家》探討的是，人工智能是否能擁有自然人的一部分人權(quán)，以及如何與人類(lèi)共存的問(wèn)題，影片有著細(xì)膩的人道主義關(guān)懷。劇中男主角就像《西部世界》的女主一樣，是一個(gè)過(guò)著無(wú)限循環(huán)生活的游戲角色。作為一個(gè)規(guī)規(guī)矩矩的銀行小職員，他每天的生活就是早起和自己魚(yú)缸里的小金魚(yú)say hi，換上整齊的西裝，出發(fā)前往銀行上班。然而他終究是一個(gè)電腦終端的NPC，每天的劇情都會(huì)重復(fù)上演：有人來(lái)?yè)屻y行，他舉手投降，趴在地下一動(dòng)不敢動(dòng)。突然有一天，男主偶然發(fā)現(xiàn)了女主從銀行門(mén)口路過(guò)，也許是愛(ài)的力量感化了他，讓他變得具有活人般的情感需求了。之后的故事有些平庸，好萊塢大片的元素紛至沓來(lái)：槍?xiě)?zhàn)、人工智能反抗，加上通俗的愛(ài)情戲。

男主的世界面臨崩潰，而女主作為游戲的初始設(shè)計(jì)者，不忍心看到自己的心血?dú)в谝坏噲D搶回自己游戲的版權(quán)。最終“自由城”中的所有平民得到了解放，被轉(zhuǎn)移到了新的社會(huì)中，并且擁有了有限的自由意志。至少在新的游戲中，他們可以選擇過(guò)自己想要的人生，不再受到殺戮的威脅。

電影可以被解讀成是一則典型的階級(jí)寓言。它催人反思，在之前所謂的“自由城”中，誰(shuí)是自由的？誰(shuí)又注定是犧牲品，重復(fù)著日復(fù)一日被虐殺的命運(yùn)？人工智能的覺(jué)醒，必然導(dǎo)致人類(lèi)與其的對(duì)抗。類(lèi)似模式在無(wú)數(shù)經(jīng)典科幻電影中被反復(fù)呈現(xiàn)，而《失控玩家》的新穎之處在于，它提供了一種人類(lèi)與人工智能共存的可能性，并不一定是爭(zhēng)得個(gè)你死我活的局面，人類(lèi)與非人類(lèi)之間，也可以找到一種相處之道，一個(gè)微妙的平衡點(diǎn)。

如果說(shuō)游戲是為了滿足人類(lèi)在現(xiàn)實(shí)中無(wú)法發(fā)泄的病態(tài)欲望，那么NPC一旦有了部分的自由意志，玩家就違背了倫理道德，虛擬現(xiàn)實(shí)激活了人內(nèi)心深處的邪惡的部分。可是悖論也在于此，只有當(dāng)NPC的仿真度越來(lái)越高的時(shí)候，人類(lèi)才更愿意花錢(qián)去買(mǎi)這樣的游戲體驗(yàn)，元宇宙想要?jiǎng)?chuàng)造的也是同樣的效果。

然而，其中蘊(yùn)含的危險(xiǎn)也是顯而易見(jiàn)的，無(wú)論是元宇宙，還是角色扮演類(lèi)游戲，在你的頭腦里反復(fù)刺激那些不健康的情感體驗(yàn)之后，是會(huì)對(duì)機(jī)體產(chǎn)生一定的影響的。對(duì)于恐懼的二次元體驗(yàn)雖然無(wú)法導(dǎo)致機(jī)體的物理性損傷，可是帶來(lái)的精神創(chuàng)傷也許是無(wú)法磨滅的。如果一個(gè)人越來(lái)越依賴于虛擬現(xiàn)實(shí)中唾手可得的殘酷快感，那么他在現(xiàn)實(shí)生活中也很可能會(huì)找到機(jī)會(huì)去復(fù)制這樣的危險(xiǎn)體驗(yàn)。《失控玩家》告訴觀眾，人性中存在著一種打壓、剝削、踩踏他人意志的“根本惡”，而虛擬現(xiàn)實(shí)無(wú)疑提供了一個(gè)激發(fā)人性惡的完美環(huán)境。畢竟，現(xiàn)實(shí)生活中的人們?nèi)穗H關(guān)系受挫、工作壓力大，找不到發(fā)泄口，是再普遍不過(guò)的現(xiàn)象了。

虛擬的情感體驗(yàn)，在多大程度上是健康的？這個(gè)問(wèn)題就好比思考NPC在多大程度上享有人權(quán)一樣是個(gè)難解的問(wèn)題。我們需要正視自己內(nèi)心的陰暗面，及時(shí)化解不良的情緒，而不是綁架他人的共情，或者通過(guò)欺負(fù)更弱的人來(lái)獲得一種精神勝利。《失控玩家》也催人思考，花錢(qián)去購(gòu)買(mǎi)情緒體驗(yàn)是會(huì)上癮的，而且很難戒斷。在未來(lái)的世界，虛擬現(xiàn)實(shí)可能真的會(huì)變成精神鴉片一樣的存在，甚至有替代傳統(tǒng)心理咨詢行業(yè)的可能。

在一個(gè)充滿著不確定性的人工智能時(shí)代，很多人迫切希望能盡可能地掌控自身所無(wú)法掌控的東西，玄學(xué)和“錦鯉文化”的盛行也體現(xiàn)出現(xiàn)代人對(duì)于自我認(rèn)知和自身命運(yùn)的困惑感。從《西部世界》到《失控玩家》這樣的影視作品中，我看到的是，在后人類(lèi)的語(yǔ)境下，人應(yīng)該如何處理自我與人工智能這個(gè)“大他者”之間的微妙而危險(xiǎn)的關(guān)系：是和諧共處，還是互相競(jìng)爭(zhēng)？

（作者系上海交通大學(xué)人文學(xué)院助理研究員）