對人工智慧的興奮 抬高了人們對機器學習技術在自動駕駛方面的作用的期望。AI 的大型語言模型 (LLM) 將單詞組合成句子，與機器在公共道路上駕駛車輛之間存在根本差異。自動駕駛不僅對無人駕駛汽車的乘客，而且對所有道路使用者都具有生命安全影響。其軟體的準確性和可靠性標準必須遠高於支援桌面或手機應用程式的 LLM。
儘管人們對人為駕駛失誤的擔憂不無道理，但美國嚴重交通事故的頻率已經非常低。根據國家公路交通安全管理局 (NHTSA) 的交通統計資料，致命事故大約每 360 萬小時駕駛發生一次，而導致受傷的事故大約每 61,000 小時駕駛發生一次。相當於每連續 24/7 駕駛 411 年發生一次致命事故，每 7 年發生一次導致受傷的事故。對於複雜的軟體驅動系統，尤其是大規模生產且價格合理的系統而言，實現如此長的平均故障間隔時間極其困難。
無人駕駛汽車公司 Cruise 與加州安全監管機構的問題以及特斯拉與 NHTSA 的問題表明了自動駕駛軟體系統面臨的一些安全挑戰。它們不僅僅是純粹的技術問題，因為它們還表明，兩家公司都試圖將矽谷“快速行動，打破陳規”的文化帶入一個安全需要成為首要優先事項的應用中，這存在嚴重風險。開發安全系統需要耐心和對細節的一絲不苟，這兩者都與速度不相容。而且我們的車輛不應該打破任何東西——尤其是人。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們今天世界的發現和想法的具有影響力的故事的未來。
這就是為什麼美國需要一個嚴格的自動駕駛安全監管框架——以便該技術的安全增強潛力能夠實現，並且公眾對其安全性的信任能夠由行業贏得，一旦它經過安全專家和安全監管機構的適當審查。由於其安全關鍵性質，駕駛車輛的軟體需要以前所未有的高可靠性水平執行。公眾和安全監管機構都需要收到可證明和可解釋的證據，證明它可以提高交通安全，而不是使其惡化。這意味著該軟體不能完全依賴機器學習的 AI 方法，還需要納入明確的演算法安全護欄。特斯拉和 Cruise 提供了為什麼這有必要的預警。
在特斯拉的案例中，NHTSA 一直在調查 Level 2 部分駕駛自動化系統的安全問題，這些系統旨在在駕駛員持續監督和特定的有限道路和交通條件下控制車速和轉向。去年 12 月 12 日，它宣佈與特斯拉達成召回協議，召回配備 Autopilot 功能的車輛，因為該公司未包含足夠的安全措施來防止駕駛員誤用。與福特和通用汽車公司類似的駕駛自動化功能形成鮮明對比的是，特斯拉的 Autopilot 不使用直接（紅外）駕駛員視線影片監控來評估駕駛員在監督系統執行時的警惕性。並且該軟體允許在任何地方使用該系統，而無需考慮它是否在為此設計的限制通行高速公路上。簡單的修改本可以合理地指示駕駛員的警惕性，並將系統的使用限制在具有合適道路條件的地點，以降低安全風險。該公司拒絕這樣做，並且僅在 Autopilot 中實施一些額外的警告（透過無線軟體更新），試圖阻止濫用。需要更強有力的監管幹預來迫使他們對系統進行“地理圍欄”，以便該系統只能在已被證明可以安全執行的地方使用，並且當攝像頭顯示駕駛員正在向前看以查詢它可能無法識別的危險時才能使用。
在 Cruise 未能及時完整地報告 10 月 2 日的事件後，加州汽車管理局撤銷了 Cruise 在舊金山提供無人駕駛乘車服務的授權，該事件中，其一輛汽車拖拽了一名被困在車下並受重傷的撞車事故受害者。這引發了對 Cruise 運營的全面內部重新審查，結果顯示該組織的安全文化及其與公眾和公共機構官員的互動都存在重大問題。Cruise 選擇了一種矽谷文化，該文化重視開發和擴張的速度而不是安全，並且與其他一直在開發無人駕駛乘車服務的領先公司形成對比，它沒有首席安全官或有效的企業安全管理系統。儘管安全一直是 Cruise 的一個重要談話要點，但該公司在做出具有重大安全影響的決策時顯然並未將其置於優先地位。
在近期，雖然自動駕駛技術仍在成熟，並且沒有足夠的資料來定義精確的基於效能的法規，但在州或（最好是）國家層面實施基本要求以提高安全性並增強公眾對安全性的認知方面仍然可以取得進展。應要求自動駕駛系統 (ADS) 開發商和車隊運營商：確保 ADS 無法在其行為尚未被證明是安全的地方執行；報告所有碰撞和未遂事故（以及高 g 機動和人為控制接管）；並實施經過審計和監管的安全管理系統。最後，他們應制定全面的安全案例，並在部署前接受州或聯邦監管機構的審查和批准。安全案例應識別合理可預見的危險，並描述如何根據在真實條件下人類監督下測試的定量證據來減輕每種危險對公共安全的風險。
只有當行業贏得公眾對該技術安全性的信任時，自動駕駛技術的安全增強潛力才能實現。這將需要法規來設定安全系統開發和運營流程的最低要求，並充分披露安全相關資料，以供獨立安全專家和監管機構審查。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。