以下文章經 The Conversation（一個報道最新研究的線上出版物）許可轉載。
ChatGPT 和類似人工智慧系統的興起，伴隨著對人工智慧的焦慮情緒的急劇增加。在過去的幾個月裡，高管和人工智慧安全研究人員一直在提供預測，被稱為“P(末日)”，關於人工智慧可能帶來大規模災難的機率。
支援科學新聞事業
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞事業 訂閱。透過購買訂閱，您正在幫助確保關於發現和塑造我們當今世界的想法的具有影響力的故事的未來。
擔憂在 2023 年 5 月達到頂峰，當時非營利研究和倡導組織人工智慧安全中心釋出了一句宣告：“減輕人工智慧造成的滅絕風險應與大流行病和核戰爭等其他社會規模的風險一起成為全球優先事項。” 該宣告得到了該領域許多主要參與者的簽署，包括 OpenAI、谷歌和 Anthropic 的領導人，以及兩位所謂的“人工智慧教父”：Geoffrey Hinton 和 Yoshua Bengio。
你可能會問，這種對存在的恐懼會如何上演。一個著名的 сценарий 是牛津哲學家 Nick Bostrom 闡述的“回形針最大化器”思想實驗。這個想法是，一個人工智慧系統如果被賦予生產儘可能多的回形針的任務，可能會不遺餘力地尋找原材料，比如摧毀工廠和造成車禍。
一個資源密集度較低的變體 是，一個人工智慧系統被賦予預訂一家熱門餐廳的任務，它會關閉蜂窩網路和交通燈，以阻止其他顧客獲得餐桌。
無論是辦公用品還是晚餐，基本思想都是一樣的：人工智慧正迅速成為一種異類智慧，擅長完成目標，但很危險，因為它不一定會與其創造者的道德價值觀保持一致。而且，在其最極端的版本中，這種論點演變成對人工智慧 奴役或摧毀人類 的明確焦慮。
實際危害
在過去的幾年裡，我和我在 馬薩諸塞大學波士頓分校應用倫理中心 的同事們一直在研究與人工智慧互動對人們自我理解的影響，而且我認為這些災難性的焦慮是 被誇大和誤導的。
是的，人工智慧創造令人信服的深度偽造影片和音訊的能力是可怕的，並且可能被心懷不軌的人濫用。事實上，這種情況已經在發生：俄羅斯特工可能試圖透過讓克里姆林宮批評家 Bill Browder 與烏克蘭前總統 Petro Poroshenko 的化身對話，使他感到難堪。網路罪犯一直在使用人工智慧語音克隆技術進行各種犯罪——從 高科技搶劫案 到 普通詐騙。
提供 貸款批准和招聘建議 的人工智慧決策系統存在演算法偏見的風險，因為它們執行的訓練資料和決策模型反映了長期存在的社會偏見。
這些都是大問題，需要政策制定者的關注。但它們已經存在一段時間了，而且它們很難說是災難性的。
不在同一級別
人工智慧安全中心的宣告將人工智慧與大流行病和核武器歸為對文明的主要風險。這種比較存在問題。COVID-19 導致全球近 700 萬人死亡，引發了 大規模且持續的精神健康危機，並造成了 經濟挑戰，包括長期的供應鏈短缺和失控的通貨膨脹。
核武器可能在 1945 年在廣島和長崎 造成超過 20 萬人死亡，在隨後的幾年裡，更多的人死於癌症，在冷戰期間產生了數十年的深刻焦慮，並在 1962 年古巴導彈危機期間將世界推向了毀滅的邊緣。它們還 改變了國家領導人 在如何應對國際侵略方面的考量，正如目前俄羅斯入侵烏克蘭的情況所表明的那樣。
人工智慧根本無法造成這種程度的破壞。“回形針場景”和類似的場景都是科幻小說。現有的人工智慧應用程式執行特定的任務，而不是做出廣泛的判斷。這項技術 遠未能夠決定並規劃 為了在餐廳為您獲得座位而關閉交通，或者為了滿足您對回形針的渴望而炸燬汽車工廠的目標和次要目標。
這項技術不僅缺乏這些場景中涉及的複雜的多層判斷能力，而且也沒有自主訪問我們關鍵基礎設施的足夠部分的許可權，以開始造成那種程度的破壞。
成為人類的意義
實際上，使用人工智慧確實存在一種存在危險，但這種風險在哲學意義上而非世界末日意義上是存在的。目前形式的人工智慧可能會改變人們看待自己的方式。它可能會降低人們認為對成為人類至關重要的能力和經驗。
例如，人類是做出判斷的生物。人們理性地權衡細節，並在工作和休閒時間做出日常判斷，關於僱傭誰、誰應該獲得貸款、看什麼等等。但是，越來越多的這些判斷 正在被自動化並外包給演算法。隨著這種情況的發生，世界不會終結。但是人們將逐漸失去自己做出這些判斷的能力。人們做出的判斷越少，他們就越有可能在做出判斷方面變得更差。
或者考慮一下偶然性在人們生活中的作用。人類珍視意外的邂逅：偶然遇到一個地方、一個人或一項活動，被它吸引，並在事後欣賞意外在這些有意義的發現中所起的作用。但是演算法推薦引擎的作用是 減少那種意外發現，並用計劃和預測來取代它。
最後，考慮一下 ChatGPT 的寫作能力。這項技術正在消除寫作作業在高等教育中的作用。如果真的如此，教育工作者將失去一個教授學生 如何批判性思考 的關鍵工具。
沒有死亡，但被削弱了
所以，不，人工智慧不會炸燬世界。但是，在各種狹隘的背景下，越來越不加批判地接受它，意味著人類一些最重要的技能正在逐漸喪失。演算法已經削弱了人們做出判斷、享受意外邂逅和磨練批判性思維的能力。
人類將從這些損失中倖存下來。但是我們的生存方式將在這一過程中變得貧乏。圍繞即將到來的人工智慧災難、奇點、天網或任何你可能想到的名字的奇幻焦慮，掩蓋了這些更細微的代價。回想一下 T.S. 艾略特著名的《空心人》結尾幾行：“世界將以此終結，”他寫道，“不是一聲巨響，而是一聲嗚咽。”
本文最初發表在 The Conversation 上。閱讀 原文。