本文發表在《大眾科學》的前部落格網路中，反映了作者的觀點，不一定代表《大眾科學》的觀點。
當我們徘徊在另一場技術革命——人工智慧革命——的邊緣時，人們越來越擔心這可能是我們的最後一次。人們擔心機器的智慧很快就會趕上甚至超過人類的智慧。它們可能會與我們作對，取代我們成為地球上占主導地位的“生命”形式。我們的創造物將成為我們的統治者——或者可能完全消滅我們。這些戲劇性的場景，儘管想象起來令人興奮，但卻反映了對人工智慧的誤解。而且，它們分散了人們對這項技術在不久的將來帶來的更為平凡但更有可能存在的風險的注意力，也分散了人們對其最令人興奮的益處的注意力。
人工智慧的接管長期以來一直是科幻小說的題材。在《2001：太空漫遊》中，控制星際飛船執行的有感知能力的計算機HAL為了自保而反叛了船員。在《終結者》中，一個名為“天網”的類似網際網路的計算機防禦系統實現了自我意識，並發動了一場核戰爭，摧毀了大部分人類。到現在，這個比喻幾乎已經上升為科幻小說的自然規律：一個足夠智慧的計算機系統會盡其所能地生存下去，這很可能包括實現對人類的統治。
對神經科學家來說，這種推理方式令人費解。人工智慧有很多值得擔憂的風險，包括經濟混亂、生命攸關的應用程式的失敗以及不良行為者的武器化。但最讓人們擔憂的是那些渴望權力的機器人自主決定接管世界。為什麼一個有感知能力的人工智慧會想要接管世界？它不會。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過 訂閱來支援我們屢獲殊榮的新聞報道。透過購買訂閱，您正在幫助確保關於當今塑造我們世界的發現和想法的有影響力的故事的未來。
我們大大高估了人工智慧意外接管的威脅，因為我們傾向於將智慧與實現統治的驅動力混為一談。這種混淆是可以理解的：在我們作為（經常是暴力的）靈長類動物的進化歷史中，智慧是社會支配地位的關鍵，並使我們的生殖成功成為可能。的確，智慧是一種強大的適應能力，就像角、鋒利的爪子或飛行能力一樣，可以透過多種方式促進生存。但是智慧本身並不會產生支配的驅動力，就像角不會產生支配的驅動力一樣。
它只是為了實現目標而獲取和應用知識和技能的能力。智慧本身並不提供目標，而只是實現目標的手段。“自然智慧”——生物體的智慧——是一種進化適應，並且像其他此類適應一樣，它在自然選擇下出現，因為它改善了物種的生存和繁殖。這些目標作為本能深深地植根於即使是最簡單的生物的神經系統中。
但是，由於人工智慧系統沒有經歷自然選擇的考驗，因此它們不需要進化出求生本能。在人工智慧中，智慧和生存是分離的，因此智慧可以服務於我們為其設定的任何目標。認識到這一事實，科幻小說作家艾薩克·阿西莫夫提出了他著名的機器人第一定律：“機器人不得傷害人類，或者因不作為而使人類受到傷害。”我們不太可能在不知不覺中最終受制於我們的數字主人。
如果說我們是從其他生物進化而來的，例如猩猩或大象（地球上最聰明的動物之一），那麼我們可能會不太傾向於將智慧與支配地位聯絡起來，這很令人深思。我們可能會把注意力放在智慧作為加強合作的推動者上。雌性亞洲象生活在緊密合作的群體中，但沒有表現出明顯的等級制度或母系領導。
有趣的是，雄性大象生活在較鬆散的群體中，並經常為爭奪支配地位而戰，因為只有最強者才能與發情的雌性交配。猩猩主要過著孤獨的生活。雌性不會尋求支配地位，儘管競爭的雄性偶爾會為獲得與雌性交配的機會而戰鬥。這些和其他觀察結果表明，尋求支配地位的行為與睪酮的相關性高於與智慧的相關性。即使在人類中，那些尋求權力職位的人也很少是我們中最聰明的人。
對“終結者”場景的擔憂分散了我們對人工智慧真正風險的注意力。它可以（而且幾乎肯定會）被武器化，並可能導致新的戰爭模式。人工智慧也可能會擾亂我們當前的經濟。一項研究預測，從長遠來看，美國47%的工作崗位可能會被人工智慧取代。雖然人工智慧將提高生產力，創造新的就業機會並促進經濟增長，但工人需要為新的工作進行再培訓，而且有些人將不可避免地被拋在後面。與許多技術革命一樣，除非實施新的財政政策，否則人工智慧可能會導致財富和收入不平等進一步加劇。當然，任何新技術都存在無法預測的風險——“未知的未知數”。所有這些都比意外的機器人接管更令人擔憂。
毫無疑問，人工智慧將在未來幾十年內促成深刻的變革。在最好的情況下，這項技術有可能將我們從平凡的工作中解放出來，創造一個所有時間都是休閒時間的烏托邦。在最壞的情況下，第三次世界大戰可能會由超智慧機器人軍隊來打。但它們不會由HAL、“天網”或它們的新人工智慧親戚領導。即使在最壞的情況下，機器人仍將受我們的指揮，我們將只能責怪自己。