一輛載著一家四口的自動駕駛汽車在一條鄉村雙車道公路上行駛，發現前方有一個彈跳的球。當汽車靠近時，一個孩子跑出來撿球。汽車應該冒險讓乘客喪生，轉向路邊陡峭的懸崖嗎？還是汽車應該繼續行駛，以犧牲孩子的生命為代價來確保乘客的安全？根據週四發表在《科學》雜誌上的一項研究，這種情況和許多其他情況提出了汽車製造商、購車者和監管機構在車輛被賦予完全自主權之前必須解決的道德和倫理困境。
該研究強調了隨著無人駕駛技術加速發展，汽車製造商、購車者和監管機構面臨的悖論。《科學》報告中1928名研究參與者中的大多數人表示，他們認為車輛應該被程式設計為撞向物體而不是碾壓行人，即使這意味著殺死車輛的乘客。“控制[自動駕駛汽車]的演算法需要嵌入道德原則，以指導他們在不可避免的傷害情況下的決策，”來自麻省理工學院、俄勒岡大學和法國圖盧茲經濟學院以及國家科學研究中心的研究人員表示。
然而，許多相同的研究參與者對購買此類汽車的想法猶豫不決，他們更願意乘坐優先考慮自身安全而非行人安全的無人駕駛汽車。研究人員得出結論，如果立法者在監管自動駕駛汽車時優先考慮行人而非乘客，人們購買這些汽車的可能性就會降低。儘管研究表明自動駕駛汽車有可能減少交通、減少汙染並每年拯救數千人的生命——人為錯誤導致90%的交通事故，但無人駕駛汽車市場的萎縮將減緩其發展。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
研究人員的調查問題主要基於一個被稱為“電車難題”的倫理思想實驗。據俄勒岡大學心理學助理教授、加州大學爾灣分校文化與道德實驗室主任阿齊姆·謝里夫稱。電車難題有幾種變體，但它們大多提出假設情景，其中一輛電車即將碾過一群人。一個觀看事件發生的人必須在犧牲一個人以造福群體或以群體為代價保護個人的干預措施之間做出選擇。謝里夫與圖盧茲經濟學院心理學家讓-弗朗索瓦·博訥豐和麻省理工學院媒體實驗室副教授伊亞德·拉赫萬一起進行了這項研究。
一些觀察家認為，《科學》研究的一個主要缺陷是，它沒有考慮到為控制無人駕駛汽車而開發的人工智慧實際上是如何工作的。“倫理問題已成為不從事這項技術的人們的熱門話題，”卡內基梅隆大學CyLab電氣與計算機工程教授、該大學開發自動駕駛汽車（包括贏得2007年DARPA城市挑戰賽的Boss SUV）的資深人士拉古納坦“拉傑”·拉吉庫馬爾說。“人工智慧不具備我們人類所擁有的認知能力，”他補充道。拉吉庫馬爾沒有參與《科學》研究。
相反，自動駕駛汽車會根據速度、天氣、路況、距離以及攝像頭、雷射雷達和雷達等各種感測器收集的其他資料做出決策。例如，自動駕駛汽車將根據其行駛速度以及路徑中物體的速度來計算行動路線。主要挑戰在於足夠快地收集和處理必要的資料，以首先避免危險情況。拉吉庫馬爾承認這並非總是可能，但他懷疑在這種情況下，最終將由車輛本質上決定誰生誰死。“我對自動駕駛汽車更大的擔憂是保護它們免受可能想要在有人在車上時接管其控制權的駭客的侵害，”他補充道。
謝里夫和他的同事也承認，他們對無人駕駛汽車道德困境的討論是一項正在進行的工作。他們週四啟動了一個名為道德機器的網站，以幫助收集更多關於人們希望自動駕駛汽車在乘客和行人安全發生衝突的不同情況下如何反應的資訊。該網站允許參與者比較他們的反應，甚至允許透過修改涉及的人數和型別以及他們在事故發生時是否遵守交通規則來構建新的場景。