保羅·沙瑞爾：沒有天定命運，人類主宰未來
來源：世界知識出版社（微信公眾號） | 文/[美] 保羅·沙瑞爾 譯/朱啟超 王姝 龍坤 2019年07月26日07:00
2019年6月25日在北京開會相聚的《無人軍隊》 譯者朱啟超、作者保羅·沙瑞爾、譯者龍坤（從右至左）
*本文為保羅·沙瑞爾著作《無人軍隊：自主武器與未來戰爭》結語。
在系列科幻電影《終結者》中，薩拉?康納和她后來成為人類反抗機器人組織領袖的兒子約翰，陷入了比機器人終結者更難擺脫的“敵人”的追殺——命運。
無論薩拉和約翰母子打敗指揮終結者機器人的“天網”多少次，終結者機器人在下一部電影中仍會回來繼續執行對人類的追殺令。
薩拉和約翰作為電影系列中的受害者出現，這種結構化敘事成了屢試不爽的票房保證，但他們陷入命運的魔咒也是很關鍵的敘事手法。
在《終結者》系列電影中，薩拉和約翰被來自未來的終結者殺手機器人一遍又一遍追殺，目的是阻止約翰成為對抗機器人的人類反抗組織領袖。
科幻電影的核心敘事邏輯是關于時光旅行悖論：如果終結者機器人成功殺死了薩拉和約翰，那么約翰也就無法成為人類反抗組織領袖，故事將無法鋪展下去，因此不能一開始就把故事的主人公干掉。
同時，薩拉和約翰總是試圖在“天網”完全建成之前就要搗毀它。這也就產生另一個悖論：如果薩拉母子成功了，“天網”系統就無法派出終結者殺手機器人去攻擊人類，也就會讓薩拉和約翰失去了繼續與“天網”作戰的理由。
薩拉和約翰的角色被設定了，他們永遠處于穿過過去、現在和未來與“天網”的斗爭中。
無論他們母子如何艱苦地斗爭，“審判日”看上去總要到來，雖然這一天處于變化中（根據電影吸引觀眾的需要，每一部電影上線后，該部電影中的“審判日”卻又總是設定在不遠的未來，類似于且看下回分解）。
盡管如此，薩拉和約翰始終在與命運抗爭，從未動搖他們永遠戰勝“天網”從而避免“審判日”到來的堅定信念。
在《終結者2：審判日》電影中，約翰?康納引用了他媽媽的話：
“未來并沒有被設定。沒有天定的命運，而是人類要主宰自己的未來。”
這句話在后續的電影中也反復出現。
的確，薩拉?康納是對的。在現實世界中，人類的未來并沒有被設定。
本書中向讀者展示了不同的未來圖景——令人可怕的圖景和美好的圖景——只不過是人們的想象。真正的未來正隨著時間推移一步一步展現。
技術會改變未來嗎？當然，但技術是由人創造的。
以人工智能技術為例，就是在技術上得益于杜安尼?戴維斯、布拉德福德?托斯利和布蘭登?曾那樣的技術天才而不斷改進，在政策上得益于拉里?許特、弗蘭克?肯德爾和鮑勃?沃克等官員的持續支持而不斷發展的，而這些官員關于發展人工智能技術的決策也受到斯圖亞特?拉塞爾、喬迪?威廉姆斯和羅恩?阿爾金積極呼吁的影響。
上述的所有個體都有自己的選擇。集體而言，人類也有人類自己的選擇。
是否賦予機器自主決定其行動而不受人類判斷和決策影響的技術，其實最終取決于人類。
將人工智能技術用于什么目的，最終也取決于人類自身。
比如，我們可以運用人工智能建立一個更加安全、更少痛苦、更少事故、更少暴行的世界，建議一個運行良好但保留人類在必要時施加干預的人工智能世界。我們可以打造一個充滿更多同情與關愛、更少戰爭的世界，為天使們打開大門的世界。
或者，我們被機器的種種優點深深誘惑——無與倫比的運算速度、看上去非常完美以及近乎冷酷的精準，我們賦予機器強大的能力，相信機器可以毫不猶豫地正確執行分派的任務，寄望機器不會出錯，程序代碼不存在任何瑕疵，不會引發事故，或者不存在可被敵人利用的漏洞。
這些假設都沒有容易的答案。
如果戰爭可以輕易避免，主權國家可以通過條約而不是武力來確保和平，人類早就會那么做了。
軍事力量之所以存在，就是為了作為一種威懾工具應對那些不遵守國際法或國際美好愿望共識的人的。
讓主權國家屈從于一種潛在工具來達到自我防衛的目的，無異于讓他們進行一場危險的豪賭。
雖然如此——雖然現實是沒有專門的警察來執行戰爭法，且只有勝利者才有資格決定誰應當受到審判。雖然現實是，只有最終的實力而非權利才有資格決定誰會在戰場上獲勝或死亡。
盡管如此，千百年來戰爭法則仍然影響了人們在戰爭中的行為。即便最古老的戰爭法則，也規定了哪些武器可以在戰爭中運用，哪些武器完全無法接受。
鋒利的、蘸有毒藥的箭頭在戰爭中非常有用，但用它殺人是不人道的和錯誤的。
從歷史上看，人類之間選擇通過合作來避免戰爭中最壞的結果，采取措施限制出格的殺戮行為，甚至是在生死攸關的時刻。
有時這些合作會失敗，但奇跡在于有些合作會取得成功。
進入現代階段，雖然不是所有國家，但絕大多數國家的軍隊選擇避免在戰爭中使用化學武器、激光致盲武器、地雷和集束炸彈。
世界有核國家已就限制部署核武器以促進全球戰略穩定達成了共識。雖然這些規則或共識有時會遭致破壞，但各國間的自我克制還是得以維持，使我們對于世界和平的前景抱有希望。
這種自我克制——各國一旦失去自我克制，世界將變得十分危險——現在仍然必要。
如果有些國家執意要研發自主武器，任何紙上協議都將難以阻止。與此同時，相關國家進行混亂的軍備競賽而不清楚這場競賽會將我們引向何方，這對哪個國家都沒有好處。
各國必須共同合作，確定戰爭中的哪些領域應用自主武器是合適的，哪些領域不行，哪些地方需要將人類判斷讓渡給機器。
這些規則必須在保持人類決策重要性的同時，嘗試利用自主性改進戰爭中的人類事務。
權衡人類決策對于自主武器干預的必要性，需要社會各領域的辯論，而不僅僅是學者、律師和職業軍人的事。
社會大眾的參與也是很必要的，畢竟軍用自主機器人最終將在人類生活的空間廣泛存在并執行各種任務。
機器能夠做很多事情，但它們不能創造事物背后的意義。
他們難以為我們回答更多的隱含性問題。機器不能明白人類價值觀，也不能告訴我們應該如何做出選擇。
我們人類所創造的未來世界，將會有越來越多智能機器出現。
但是，這個世界不是為機器而存在的，這個多姿多彩的世界是為了人類而存在。
《無人軍隊：自主武器與未來戰爭》
作者：[美]保羅·沙瑞爾
譯者：朱啟超 王姝 龍坤
出版發行：世界知識出版社
出版時間：2019年6月
ISBN:978-7-5012-5902-1
定價：86.00元
