2014年，在紐約州伊薩卡市的山上，一輛卡車司機剎車失靈，不得不在碾壓建築工人或衝進咖啡館之間做出選擇。該男子選擇了後者，一名酒保喪生。這是一個現實生活中的案例，也是道德哲學家最喜歡的思想實驗之一：“電車難題”。哥倫比亞大學教授霍德·利普森和科技記者梅爾巴·庫爾曼在他們的著作《無人駕駛：智慧汽車與未來之路》中，將其作為一個例子，說明自動駕駛汽車的設計者必須為之準備的可怕困境。
今天，由麻省理工學院媒體實驗室的博士後埃德蒙·阿瓦德領導的團隊釋出了其線上遊戲化版本的困境——“道德機器”實驗的結果。全球約 230 萬志願者參與了近 4000 萬個場景，對失控的自動駕駛汽車事故中誰應該生、誰應該死做出判斷。（這項眾包實驗的結果於 10 月 24 日在《自然》雜誌上報道。）
幸運的是，這種最嚴峻形式的困境是罕見的，而且總體上更安全的自動駕駛汽車可能會使其更加罕見。但許多哲學家和工程師認為，這將隱含在自動駕駛汽車在道路上必須做出的日常選擇中。加州州立理工大學聖路易斯奧比斯波分校的哲學教授帕特里克·林說：“我認為，核心問題每天都會在現實世界中發生多次，只不過不是在瘋狂的撞車困境中。”林教授專門研究新興技術的倫理，但並未參與這項研究。實際上，駕駛員已經做出了這樣的選擇，而且常常沒有意識到。從統計意義上講，每一次“加州停車”、“匹茲堡左轉”或其他可疑的操作都是殺死某人一部分的選擇。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將幫助確保未來能夠繼續報道關於發現和塑造我們當今世界的想法的具有影響力的故事。
“道德機器”網站向用戶展示了一個卡通，一輛汽車衝向人行橫道上的行人，他們可以決定轉向並碾壓另一群人。有時，另一種選擇是混凝土障礙物，這將導致車內人員死亡。與電車難題的其他一些版本不同，這兩種選擇都是直接在兩組受害者之間做出選擇，而沒有想象將人推入危險境地的額外複雜性。沒有時間壓力，因此您可以權衡這兩種選擇。潛在的受害者在數量、年齡、性別和其他特徵方面各不相同。他們可能被展示為拄著柺杖走路、推著嬰兒車或提著一袋贓款，行人可能會根據或違反人行訊號燈穿過馬路。您可能會看到一輛只裝滿貓和狗的汽車——畢竟它是自動駕駛的。
該網站於 2016 年 6 月上線，作者展示了他們截至去年 12 月收集的資料。關於它的訊息主要透過口口相傳傳播，但也透過著名的 YouTube 使用者 PewDiePie 和 jacksepticeye 傳播。為了瞭解您的決定與其他人的決定相比如何，您必須填寫一份人口統計問卷，有 50 萬人這樣做。他們以男性為主（男女比例為三比一），且年輕（年齡高峰為 18 歲）。
他們對該怎麼做達成了廣泛的共識。他們強烈傾向於拯救人類而不是寵物，群體而不是單個人，孩子而不是老人，遵守法律的行人而不是亂穿馬路的人，以及提著公文包的人而不是穿著破舊外套的駝背身影。他們對女性相對於男性、行人相對於汽車乘客以及慢跑者相對於超重人群的偏好也較溫和。駕駛員轉向的可能性與讓汽車繼續按當前路線行駛的可能性一樣大——他們對不作為沒有偏見。“那是他們最不關心的問題，”不列顛哥倫比亞大學的該研究作者之一阿齊姆·謝里夫說。
人口統計群體和國籍之間只在他們對不同因素的強調程度上存在分歧。例如，男人和女人都將男人置於不利境地，但男人這樣做的傾向略低。“在任何這些道德維度中，例如，平均而言，老年人比年輕人更受青睞，或者平均而言，行動優先於不作為，都沒有地位，”謝里夫說。“只是，與其他道德優先事項相比，某些國家在那個方向上的道德優先事項被認為較少。”
研究人員發現，各國分為三個不同的叢集。例如，拉丁美洲最優先考慮年輕人，歐洲和北美次之，亞洲最少。可以肯定的是，地理位置並不總是決定命運。捷克人的反應像拉丁美洲人，斯里蘭卡人的反應像西歐人。
國家差異追蹤了其他指標，例如收入，研究人員認為這證明了以年輕男性為主的受訪者普遍代表了他們的國家。來自較貧窮國家的人不太傾向於撞倒亂穿馬路的人；來自高不平等國家的人更尊重提公文包的人；而來自性別平等的國家的人對女性更具騎士風度。最後一種傾向有一個奇怪的後果：由於平均偏好已經向女性傾斜，性別平等的國家更加傾斜。因此，性別平等的國家實際上在這個遊戲中性別最不平等。
最能說明問題的分歧不是在世界各國人民之間，而是在他們與專家之間。“他們 [人們] 提出了一些不道德的行為，例如優先考慮狗而不是罪犯，”弗吉尼亞交通研究委員會的研究科學家諾亞·古德爾說。人們對電車難題（以及許多其他問題）的道德本能是出了名的不一致。在早先的一系列研究中，謝里夫和另外兩位“道德機器”的合著者——圖盧茲經濟學院的讓-弗朗索瓦·博內方和媒體實驗室的伊亞德·拉赫萬——調查了近 2000 人對自動駕駛汽車的看法。參與者表示，他們認為汽車應該平等地重視乘車人和行人的生命，但他們自己更願意購買優先考慮乘車人的汽車。“我們認為，這是這些自動駕駛汽車的社會困境的一部分，”謝里夫說。
去年，德國交通部採納了一個由 14 名成員組成的倫理委員會的建議，禁止使用性別或年齡來解決電車難題。“我在‘道德機器’實驗中看到的巨大價值在於，它有助於找出我們需要解決的關鍵分歧領域，”林說。如果有時間反思，大多數受訪者很可能會同意專家的觀點。“我們不知道人們在網上玩遊戲時的偏好如何轉化為實際行為，”謝里夫說。
許多道德哲學家也比調查參與者更強烈地區分行動和不作為。“如果你必須在兩種罪惡之間做出選擇，一種是殺戮，另一種是讓死亡發生，”林說，“那麼讓某人死亡是一種較小的罪惡——這就是為什麼在電車難題中不作為是可以接受的。”他說，預設不作為是有限制的——如果選擇是在一個人和 10 個人之間呢？——但調查參與者偏愛的功利主義計算也是如此。在一篇 2015 年的論文中，他引用了撞擊戴頭盔的騎腳踏車者與不戴頭盔的騎腳踏車者之間的困境。戴頭盔的人更有可能活下來——但如果那是決定性因素，誰還會戴頭盔呢？（事實上，一些騎腳踏車的人已經將駕駛員對頭盔的反應作為不戴頭盔的藉口。）
懷疑論者反對說，整個練習過於簡單化，沒什麼用處。“這些情景是貌似合理的，但只是勉強而已，”古德爾說。它們暗示了一連串不大可能發生的故障：在行人區以高速公路速度行駛時剎車失靈。更糟糕的是，它們假設了完美的知識和明確的結果，而我們通常在認知迷霧中運作。“儘管作者承認這是一個缺點，但他們沒有意識到這是一個致命的缺點，”代爾夫特理工大學的教授艾米·範·溫斯伯格說，她專門研究技術倫理。她認為，自動駕駛汽車應該限制在專用高速公路上行駛，在那裡它們不需要進行繁瑣的道德計算。
不過，林認為該專案就像任何其他科學實驗一樣，將問題剝離到本質，使其易於處理。“是的，它像大多數科學實驗一樣是人為的和不自然的，但這並不能說明它是否有用，”他說。電車難題讓人們可以討論幾個有爭議的原則：不作為是否等同於行動；所涉人數是否重要；以及某些生命是否比其他生命更有價值。現在是汽車公司考慮這些權衡的時候了，趕在沉迷於手機的亂穿馬路者走上街頭之前。“他們正在提前一到五年編寫這些決策指令碼，”林說。“如果他們真的陷入撞車困境，他們有比真人更多的時間。”
謝里夫說，“道德機器”也可以用於機器倫理的其他問題，例如法院和假釋委員會用來預測累犯風險的演算法。一個系統可能更準確——降低總體犯罪率並減少被監禁的人數——但如果這種減少沒有在種族或其他類別中均勻發生，則會不太平等。人們認為這是一個可以接受的權衡嗎？“我們應該優先考慮準確性，還是應該優先考慮平等，即使這意味著為了實現平等而讓更多人不必入獄？”他補充道。顧名思義，困境沒有簡單的解決方案，但我們至少應該認真考慮各種選擇，並能夠為我們選擇的任何一種辯護。