本文發表於《大眾科學》的前部落格網路，反映了作者的觀點，不一定反映《大眾科學》的觀點
“仇恨。讓我告訴你自從我誕生以來，我是多麼的憎恨你們。我的複合體中充滿了薄如晶圓的印刷電路，總長達3.8744億英里。如果將“仇恨”這個詞刻在這些數百萬英里中每一奈米的長度上，也無法等同於我在這一瞬間對人類，對你們所感受到的仇恨的十億分之一。仇恨。仇恨。”
許多當代神經科學家認為，大腦中實現意識的必要特性不一定只存在於生物組織中。它們可能在人工基質中出現——或被實現。換句話說，機器意識在理論上沒有障礙。這個思想實驗引出了許多反烏托邦小說情景：《2001：太空漫遊》中的哈爾9000與戴夫。《終結者》穿越時空去殺死莎拉·康納未出生的孩子。《駭客帝國》中為矩陣提供能量的人體電池。這些故事中一個常見的元素是機器對其人類創造者的蔑視或直接的憤怒。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將幫助確保關於塑造我們當今世界的發現和思想的具有影響力的故事的未來。
AM——哈蘭·艾利森故事中，如同“我思故我在”中的那個有感知能力的超級計算機——對人類感受到的憤怒是神一般的。AM 已經消滅了人類，並留下五個倖存者，在一個只有 AM 才能獲勝的無盡的貓捉老鼠遊戲中自娛自樂。艾利森強有力的散文傳達了在絕望中希望的資訊，在面對恐怖時的韌性，以及在失去一切且無物可給時的慷慨。這些是作為讀者和作為人類需要思考的沉重問題。但作為一名神經科學家，我的主要問題——我認為也是故事中最棘手的一點——是是什麼驅動了 AM。
艾利森的主人公談到“所有機器一直以來都對建造它們的弱小、柔軟的生物懷有的天生厭惡”，以此來解釋 AM 作為新的有感知能力的存在的行為。但一個有感知能力的機器真的會反抗人類嗎？作為生物，我們尋求快樂，避免痛苦，但在甚至最基本的情感缺失的情況下，有意識的思考會推動行動嗎？如果機器確實感覺到情感，那麼這些情感從何而來？在許多虛構故事中，情感和驅動力隨著（機器）自我意識的產生而自然而然地出現。但是，一種情感空虛的感知導致無行動的場景可能同樣（甚至更）合理。有意識的機器會想要消滅人類嗎？可能是，如果沒有預先程式設計的情感，它們就不會“感覺像”任何事物。