隨著人工智慧的進步，專家警告 其可能導致人類滅絕。 這究竟將如何發生仍然是一個 推測的問題——但不難看出，智慧機器人可以建造更多同類，改進自身設計並追求自身利益。 而這可能對人類構成威脅。
上週，人工智慧安全峰會在英國布萊切利園舉行。 峰會旨在解決與 最先進的人工智慧技術相關的 一些威脅，其中包括“失控”風險——即此類系統可能變得獨立的可能性。
我們有必要根據我們已知的知識來預測這種情況。 能夠獨立行動並升級自身設計的機器將受到與細菌、動物和植物相同的進化規律的約束。 因此，進化論可以教給我們很多關於人工智慧可能如何發展，以及如何確保人類在其崛起中生存的知識。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。 透過購買訂閱，您將幫助確保有關塑造我們當今世界的發現和思想的具有影響力的故事的未來。
第一個教訓是，從長遠來看，沒有免費的午餐。 不幸的是，這意味著我們不能期望人工智慧會創造一個人間天堂般的世界，在那裡，人類的每一個需求都由機器人僕人來滿足。 大多數生物都生活在生存的邊緣，盡其所能地勉強生存。 今天，許多人確實過著更加舒適和富裕的生活，但進化史表明，人工智慧可能會擾亂這種情況。 根本原因是 競爭。
這種論點 可以追溯到達爾文，並且比僅僅適用於人工智慧更廣泛。 然而，使用基於人工智慧的場景可以很容易地說明這一點。 想象一下，我們有兩個未來由人工智慧執行的民族國家，在那裡，人類不再做出重要的經濟貢獻。 其中一個國家一心一意地滿足其人類居民的每一個享樂主義需求。 另一個國家則減少對人類的投入，而更多地關注獲取資源和改進技術。 後者隨著時間的推移會變得更加強大。 它可能會接管第一個國家。 最終，它可能會決定完全拋棄人類。 這個例子不一定是民族國家才能成立； 關鍵是競爭。 從這些情景中得出的一個啟示是，人類應該努力保持其經濟相關性。 從長遠來看，確保我們生存的唯一方法是積極地為此努力。
另一個見解是，進化是漸進的。 我們可以從過去的主要創新中看到這一點，例如多細胞生物的進化。 在地球歷史的大部分時間裡，生命主要由單細胞生物組成。 由於氧氣含量低，環境條件不適合大型多細胞生物生存。 然而，即使環境變得更加友好，世界也 沒有突然充滿 紅杉、鯨魚和人類。 構建像樹或哺乳動物這樣複雜的結構需要 許多能力，包括精細的基因調控網路以及用於粘附和通訊的細胞機制。 這些能力隨著時間的推移一點一點地出現。
人工智慧也可能以漸進的方式發展。 人工智慧不太可能從頭開始湧現出一個純粹的機器人文明，更有可能的是，人工智慧將把自己融入到我們世界中已經存在的事物中。 由此產生的混合實體可能採取多種形式； 例如，想象一家公司，其所有者是人類，但運營和研究都基於機器。 除此之外，像這樣的安排將導致人類之間出現極度的 不平等，因為所有者將從他們對人工智慧的控制中獲利，而那些沒有這種控制權的人將變得失業和貧困。
這種混合體也可能成為 對人類的直接威脅 所在。 有些人認為，“機器人接管世界”的情景被誇大了，因為人工智慧本質上不會有統治的慾望。 這可能是真的。 然而，人類肯定有——這可能是他們與機器合作的一大貢獻。 考慮到這一切，也許我們應該採取的另一項原則是，不應允許人工智慧加劇我們社會的不平等。
思考這一切可能會讓人懷疑人類是否還有任何長期前景。 從地球生命史中獲得的另一個觀察是，重大創新使生命能夠佔據新的生態位。 多細胞生物在海洋中進化，並實現了在那裡謀生的新方法。 對於動物來說，這些方法包括 在沉積物中 burrowing 和新型的捕食。 這開闢了新的食物選擇，並使動物能夠多樣化，最終導致了今天存在的形狀和生活方式的 riot。 至關重要的是，新生態位的創造並不意味著所有舊生態位都會消失。 在動物和植物進化之後，細菌和其他單細胞生物 持續存在。 今天，它們中的一些做著與以前類似的事情（實際上是生物圈功能的核心）。 其他一些則從新的機遇中獲利，例如生活在動物的內臟中。
希望一些可能的未來包括人類的生態位。 畢竟，人類需要的一些東西（例如氧氣和有機食物），機器不需要。 也許我們可以說服他們去太陽系開採外行星並收穫太陽的能量。 然後把地球留給我們。
但我們可能需要迅速行動。 從生物創新的歷史中得出的最後一個教訓是，最初發生的事情至關重要。 多細胞生物的進化導致了寒武紀大爆發，這是一個五億多年前的時期，當時大型多細胞動物以極大的多樣性出現。 許多早期的動物滅絕了，沒有後代。 因為倖存下來的動物繼續建立了主要的動物類群，所以這個時代發生的事情很大程度上決定了今天的生物世界。 有人 認為，在寒武紀時期，許多路徑是可能的，而我們最終得到的世界並非命中註定。 如果人工智慧的發展也是如此，那麼現在就是我們擁有最大槓桿來引導事件走向的時候。
然而，引導事件需要具體措施。 擁有“人類應該保持經濟作用”和“人工智慧不應加劇不平等”等一般原則固然很好。 挑戰在於將這些原則轉化為關於人工智慧開發和使用的具體法規。 儘管計算機科學家自己 也不知道人工智慧在未來 10 年會如何發展，更不用說長期發展了，但我們仍需要做到這一點。 我們還需要在全球範圍內相對一致地應用我們制定的法規。 所有這些都將要求我們採取比我們在處理其他生存問題（如 氣候變化）時所表現出的更加連貫和有遠見的行動。
這似乎是一個很高的要求。 但話又說回來，在四五百萬年前，沒有人會想到我們小腦、相對類猿的祖先會進化成可以對基因組進行測序並將探測器送往太陽系邊緣的生物。 幸運的是，也許我們會再次迎接挑戰。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。