以下文章經許可轉載自The Conversation，這是一個報道最新研究的線上出版物。
當附近一輛車在路上來回不定地晃動，彷彿司機喝醉了時，自動駕駛汽車應該怎麼做？如果遇到一輛逆向行駛的車輛又該怎麼辦？在自動駕駛汽車上路之前，每個人都應該知道它們在意外情況下會如何反應。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保未來能夠繼續講述關於塑造我們當今世界的發現和想法的重要故事。
我開發、測試和部署自動駕駛班車，尋找確保自動駕駛汽車安全可靠的方法。但是，沒有哪個測試跑道能像這個國家實際的道路一樣，也沒有辦法像對現代人工駕駛汽車那樣徹底地測試這些新機器，後者每年都有數萬億英里的行駛里程，持續了幾十年。當自動駕駛汽車真的上路時，它們會發生碰撞，碰撞的方式既有嚴重的，也有輕微的。然而，它們的所有決定都是電子化的，那麼人們如何才能確信它們行駛是安全的呢？
幸運的是，有一種通用的、流行的且經過充分研究的方法可以確保新技術對公眾使用是安全有效的：新藥的測試系統。基本方法包括確保這些系統能夠實現其預期目的，而不會產生任何嚴重的負面副作用——即使研究人員並不完全瞭解它們是如何工作的。
廣泛的影響
自動駕駛汽車預計將提高道路安全、解放駕駛員的時間和注意力，並改變城市甚至社會。
為自動駕駛汽車制定的法規將產生巨大的影響，這些影響將波及整個經濟和社會。這些規則很可能來自當前的兩個汽車監管機構的某種組合，即聯邦國家公路交通安全管理局和州交通部門。
聯邦規則主要側重於車輛的結構、機械和電氣部件的安全標準，如安全氣囊和安全帶。各州可以執行自己的安全規則——例如，監管排放，處理駕駛員執照和車輛登記，其中通常還包括要求購買保險。
當前的法規
今天的州和聯邦規則將駕駛員和汽車視為獨立的實體。但自動駕駛汽車，顧名思義，是將兩者結合起來。如果這些法規之間沒有一致性，就會造成混亂。
奧巴馬政府提出了116頁的法規，其中有很多細節，但對自動駕駛汽車的工作原理知之甚少。例如，他們要求每輛車都貼上永久性的、人類可讀的標籤，列出其特定的自動駕駛能力，包括速度限制、特定高速公路和天氣條件，所有這些都會讓使用者感到非常困惑。這些法規還呼籲“有意識和有目的地”做出道德決策——這對於機器來說，即使並非不可能，也是值得懷疑的。
特朗普政府將規則簡化為26頁，但尚未解決自動駕駛汽車測試的重要問題。
檢查演算法
測試演算法非常像測試藥物。在這兩種情況下，研究人員並不總是能確切地知道某事物為何有效（尤其是在機器學習演算法的情況下），但仍然可以評估結果：病人服用藥物後是否會好轉？
美國食品和藥物管理局要求對藥物進行測試，不是為了測試其治療機制，而是為了測試結果。兩個主要標準是有效性——藥物治療預期病症的效果如何——以及安全性——任何副作用或其他問題的嚴重程度。透過這種方法，有可能在不知道藥物如何起作用的情況下，證明藥物是安全有效的。
同樣，聯邦法規可以——而且應該——要求對自動駕駛汽車的演算法進行測試。迄今為止，政府已經對汽車作為機器進行了測試，確保轉向、制動和其他功能正常工作。當然，政府也有針對人類駕駛員的測試。
一臺既能充當汽車又能充當駕駛員的機器應該透過這兩種型別的測試——特別是對於不允許人類駕駛員操控的車輛。
評估判斷力
我認為，在允許任何特定的自動駕駛汽車上路之前，NHTSA應該要求汽車及其駕駛演算法的測試結果，以證明它們是安全可靠的。目前最接近的標準是加利福尼亞州的要求，即所有自動駕駛汽車製造商都必須提交年度報告，說明在演算法未能正常執行時，人類駕駛員不得不接管車輛控制的次數。
這是一個良好的開端，但它並沒有告訴監管機構或公眾，當人類接管控制權時，車輛正在做什麼，或者周圍發生了什麼。測試應該檢查演算法指示汽車在有卡車的freeway上，以及在有動物、孩子、行人和騎腳踏車者的社群中做什麼。測試還應關注當車輛效能和感測器輸入受到雨、雪或其他天氣條件影響時，演算法會做什麼。汽車應該在臨時施工區、四向交叉路口、逆向行駛的車輛以及警察發出與交通訊號燈相矛盾的指示等場景中執行。
人類駕駛考試包括對駕駛員的判斷力和決策能力的一些評估，但自動駕駛汽車的測試應該更加嚴格，因為無法依賴以人為中心的直覺、本能反應或自我保護等概念。機器採取的任何行動都是一種選擇，公眾應該清楚地瞭解這些選擇是安全選擇的可能性。
與人類比較
自動駕駛汽車的演算法不斷計算機率。某個特定形狀是人的可能性有多大？感測器資料意味著這個人正在走向道路的可能性有多大？這個人會走到街上的可能性有多大？汽車能在撞到她之前停下來的可能性有多大？事實上，這與人腦的工作方式相似。
這為測試自動駕駛汽車以及製造商可能分發給已上路車輛的任何軟體更新提供了一個直接的機會：他們可以向人類測試駕駛員和自動駕駛演算法呈現相同的場景，並監測他們在多次試驗中的表現。任何表現得與人類一樣好，甚至更好的自動駕駛汽車，都可以被認證為可以安全上路。這與藥物測試中使用的方法非常相似，在藥物測試中，新藥的效能是根據現有的療法和已知無效的方法（如典型的安慰劑糖丸）進行評估的。
公司應該可以自由地在他們的封閉跑道上測試他們想要的任何創新，甚至在有安全駕駛員隨時準備接管方向盤的公共道路上進行測試。但在自動駕駛汽車成為任何人都可以購買的常規產品之前，應該向公眾展示其安全性、可靠性和有效性的明確證據。
本文最初發表於The Conversation。閱讀原文。