人工智慧 (AI) 研究人員毫不懷疑，能夠自我複製、自學並適應不同條件的高度智慧計算機和機器人的發展將改變世界。然而，究竟何時發生、發展到何種程度以及我們應該對此採取什麼措施，仍然是爭論的原因。
今天的智慧機器在很大程度上被設計為在已知條件下執行特定任務。然而，未來的機器可能會有更多的自主權。“隨著我們希望機器執行的任務型別變得更加複雜，我們就越需要它們照顧自己，”康奈爾大學機械和計算機工程師 Hod Lipson 說。Lipson 指出，我們越無法預見問題，我們就越需要機器自行適應並做出決策。他說，隨著機器越來越擅長學習如何學習，“我認為這會引導我們走向意識和自我意識。”
儘管神經科學家們仍在爭論意識的生物學基礎，但複雜性似乎是關鍵部分，這表明具有適應性和先進硬體和軟體的計算機可能有一天會變得有自我意識。如果我們像《終結者》等電影所說的那樣，機器突然向我們發動戰爭，我們就會知道機器已經達到了那個認知水平。專家認為，更有可能的是，我們會預見到它的到來。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞事業 訂閱。透過購買訂閱，您正在幫助確保未來能夠繼續報道關於塑造我們當今世界的發現和想法的具有影響力的故事。
這種自負源於對人類的觀察。倫斯勒理工學院的邏輯學家和哲學家 Selmer Bringsjord 說，我們是獨一無二的，因為我們擁有一定程度的智力，使我們能夠反覆“引導”自己達到更高的高度。他說，動物似乎被鎖定在“永恆固定的認知監獄”中，而人類有能力將自己從認知限制中解放出來。
一旦機器能夠理解自身的生存和構造，它就可以為自己設計改進方案。“這將是一個非常危險的斜坡，”Sims 遊戲的創造者、位於加利福尼亞州伯克利的機器人工作室 Stupid Fun Club 的聯合創始人 Will Wright 說。他補充說，當機器自我意識首次出現時，隨之而來的是自我改進，這是“衡量事物何時變得有趣的 критический показатель”。改進將在後續幾代中進行，對於機器來說，這可能只需幾個小時。
換句話說，Wright 指出，自我意識導致自我複製，最終導致製造出無需人類參與的更好的機器。“就人類的命運而言，我個人一直比許多其他人更害怕這種情況，”他說。“這可能在我們有生之年發生。一旦我們與某種形式的超級智慧共享地球，一切都將無法預測。”
並非所有人都如此悲觀。畢竟，機器遵循其程式設計邏輯，Bringsjord 說，如果這種程式設計做得正確，“機器不會獲得某種超自然力量。”他指出，一個令人擔憂的領域是將增強的機器智慧引入幕後的武器或戰鬥機器，在那裡沒有人可以對其進行監控。除此之外，Bringsjord 說，“我會說，透過負責任地使用人工智慧，我們可以控制未來。”
未來學家和著名作家雷·庫茲韋爾也同意，這種更智慧的人工智慧的出現不會“像外星機器入侵來取代我們一樣”。他說，機器將遵循一條反映人類進化的道路。但他補充說，最終，有自我意識、自我改進的機器將進化到超出人類控制甚至理解它們的程度。
Lipson 說，機器在人類控制之外執行的法律含義尚不明確，因此“考慮這些事情可能是一個好主意”。一旦機器人開始互相程式設計，取消人為輸入，像已故的艾薩克·阿西莫夫的“機器人三定律”這樣的道德規則——本質上，這些規則認為機器人不得傷害人類或允許人類受到傷害——就變得難以遵守。阿西莫夫定律“假設你對機器人進行程式設計”，Lipson 說。
然而，其他人想知道，人類是否應該統治這種新型人工智慧。“誰說進化不應該這樣發展？”Wright 問道。“恐龍是否應該立法禁止哺乳動物長大並佔領地球的更多區域？”如果事實證明控制是不可能的，讓我們希望我們能夠與我們基於矽的夥伴和平地共享這個星球。