以俄羅斯入侵烏克蘭為背景，聯合國最近舉行了一次會議，討論自主武器系統的使用，通常被稱為殺人機器人。這些本質上是武器，其程式設定為尋找一類目標，然後在該類別中選擇和攻擊特定的人或物體，而對所做決定的控制權很少。
俄羅斯成為本次討論的中心，部分原因是其在該領域的潛在能力，同時也因為其外交官阻撓了討論這些武器的努力，稱制裁使其無法適當參與。對於迄今為止進展過於緩慢的討論，俄羅斯的破壞使其進一步放緩。
七年多來，我一直在跟蹤自主武器的開發，並參加聯合國關於該問題的討論，俄羅斯的侵略正在成為人工智慧（AI）驅動的戰爭如何以及可能如何進行的令人遺憾的測試案例。
支援科學新聞報道
如果您喜歡這篇文章，請考慮支援我們屢獲殊榮的新聞報道，方式是 訂閱。透過購買訂閱，您正在幫助確保未來能夠繼續講述關於發現和塑造我們當今世界的想法的具有影響力的故事。
這些武器系統中某些技術尚不成熟且容易出錯，並且關於系統如何執行和做出決策的資訊很少清晰。其中一些武器將不可避免地擊中錯誤目標，而競爭壓力可能會導致部署更多尚未準備好用於戰場的系統。
為了避免在烏克蘭及其他地區無辜生命的喪失和關鍵基礎設施的破壞，我們需要至少付出最強有力的外交努力，在某些情況下禁止，在另一些情況下監管這些武器及其背後技術的使用，包括人工智慧和機器學習。這至關重要，因為當軍事行動進展不順利時，各國可能會試圖使用新技術來獲得優勢。俄羅斯的KUB-BLA 巡飛彈藥就是一個例子，它有能力使用人工智慧識別目標。
輸入到基於人工智慧的系統中的資料可以教會遠端武器目標的外觀，以及到達目標後該怎麼做。雖然與面部識別工具類似，但用於軍事用途的人工智慧技術具有不同的影響，特別是當它們的目的是摧毀和殺戮時，因此，專家們對將它們引入動態戰爭環境表示擔憂。雖然俄羅斯可能成功地阻止了對這些武器的即時討論，但它並非孤立無援。美國、印度和以色列都在反對對這些危險系統的監管。
人工智慧在其在網路戰中的應用可能更成熟和廣為人知，包括為惡意軟體攻擊提供動力，或更好地冒充受信任的使用者以訪問關鍵基礎設施，例如電網。但是，主要大國正在使用它來開發具有物理破壞性的武器。俄羅斯已經在自主坦克方面取得了重要進展，這些機器可以在沒有人工操作員的情況下執行，理論上操作員可以Override錯誤，而美國已經展示了多項能力，包括可以使用彈藥摧毀水面艦艇的無人機群。人工智慧被用於開發叢集技術和巡飛彈藥，也稱為神風特攻隊無人機。這些系統使用的不是科幻電影中看到的未來機器人，而是利用人工智慧技術的現有軍事平臺。簡而言之，幾行程式碼和新的感測器就可以改變軍事系統是自主執行還是在人工控制下執行。至關重要的是，將人工智慧引入軍隊的決策可能會導致對技術的過度依賴，從而影響軍事決策並可能升級衝突。
基於人工智慧的戰爭可能看起來像電子遊戲，但據空軍部長弗蘭克·肯德爾稱，去年 9 月，美國空軍首次使用人工智慧來幫助識別“即時作戰殺傷鏈”中的一個或多個目標。據推測，這意味著人工智慧被用於識別和殺死人類目標。
關於該任務的資訊很少，包括髮生的傷亡是否是預定目標。使用哪些輸入來識別這些人？識別中是否可能存在錯誤？人工智慧技術已被證明存在偏見，特別是針對婦女和少數族裔群體。錯誤識別對已經邊緣化和種族化的群體造成了不成比例的影響。
如果最近社交媒體上人工智慧社群的討論可以作為任何跡象，那麼主要來自私營部門的開發人員正在創造一些軍隊已經部署的新技術，但他們大多沒有意識到其影響。《財富》雜誌的科技記者傑里米·卡恩在文章中認為，開發人員與包括美國和俄羅斯在內的主要軍隊之間存在危險的脫節，這些軍隊正在決策和資料分析中使用人工智慧。開發人員似乎沒有意識到他們正在構建的某些工具的通用性，以及軍隊如何在戰爭中使用它們，包括針對平民。
毫無疑問，當前入侵的教訓也將影響軍隊追求的技術專案。目前，美國處於領先地位，但俄羅斯和中國在 2 月初發表的聯合宣告指出，他們的目標是“共同構建新型國際關係”，並特別指出他們旨在塑造包括我認為將是人工智慧軍事用途在內的新技術治理。
美國及其盟友正在獨立制定負責任地使用人工智慧于軍事用途的規範，但總體上沒有與潛在的對手對話。總的來說，技術更先進的軍隊不願意接受對人工智慧技術發展的任何限制。這就是國際外交至關重要的地方：必須對這些型別的武器進行限制，並且每個人都必須同意使用這些技術的共同標準和透明度。
烏克蘭戰爭應該成為關於戰爭中技術使用的警鐘，以及規範人工智慧技術以確保平民保護的必要性。不受約束且可能倉促開發的軍事人工智慧應用將繼續破壞國際人道主義法和關於平民保護的規範。儘管國際秩序一片混亂，但當前和未來危機的解決方案是外交而非軍事，聯合國或另一個集團的下一次聚會需要迅速解決這場新的戰爭時代。