計算機的思維能力接近我們人類的未來正迅速顯現。我們感到越來越強大的機器學習（ML）演算法正緊逼我們。未來幾十年內的快速發展將帶來具有人類水平智慧的機器，它們能夠說話和推理，並對經濟、政治以及不可避免的戰爭技術做出無數貢獻。真正人工智慧的誕生將深刻影響人類的未來，包括人類是否還有未來。
以下引言提供了一個例證
“自從20世紀40年代末取得最後一次重大人工智慧突破以來，世界各地的科學家一直在尋找利用這種‘人工智慧’的方法，以改進技術，使其超越當今最複雜的人工智慧程式所能達到的水平。”
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
“即使現在，研究仍在進行中，以更好地瞭解新的人工智慧程式將能夠做什麼，同時保持在當今智慧的範圍之內。目前程式設計的大多數人工智慧程式主要侷限於進行簡單的決策或對相對少量的資料執行簡單的操作。”
這兩段文字是由 GPT-2 寫的，這是一個我去年夏天試用過的語言機器人。GPT-2 由位於舊金山的 OpenAI 研究所開發，該研究所致力於推廣有益的人工智慧。GPT-2 是一種機器學習演算法，其任務看似愚蠢：給定一些任意的起始文字，它必須預測下一個詞。該網路並沒有被教導要以任何人類意義上的方式“理解”散文。相反，在其訓練階段，它會調整其模擬神經網路中的內部連線，以最好地預測下一個詞、再下一個詞，依此類推。在八百萬個網頁上進行訓練後，它的內部包含了超過十億個模擬突觸的連線，突觸是神經元之間的連線點。當我輸入您正在閱讀的文章的前幾句話時，該演算法吐出了兩段文字，聽起來像是一個大一新生試圖回憶起她在做白日夢時聽到的機器學習入門講座的要點。輸出包含了所有正確的詞語和短語——真的還不錯！第二次用相同的文字進行引導，該演算法會產生一些不同的東西。
這種機器人的後代將掀起“深度偽造”產品評論和新聞報道的浪潮，這將加劇網際網路的混亂。它們將成為又一個例證，表明程式可以做以前被認為是人類獨有的事情——玩即時戰略遊戲《星際爭霸》、翻譯文字、為書籍和電影提供個性化推薦、識別影像和影片中的人物。
演算法要寫出像馬塞爾·普魯斯特的《追憶似水年華》那樣連貫的傑作，還需要機器學習方面的許多進一步發展，但趨勢已經顯而易見。回想一下，早期所有嘗試進行電腦遊戲、翻譯和語音的嘗試都很笨拙，很容易被輕視，因為它們顯然缺乏技巧和潤色。但是，隨著深度神經網路的發明和科技行業龐大的計算基礎設施的出現，計算機不斷改進，直到它們的輸出不再顯得可笑。正如我們在圍棋、國際象棋和撲克中看到的那樣，今天的演算法可以擊敗人類，當它們這樣做時，我們最初的笑聲變成了驚愕。我們是否像歌德的魔法師的學徒一樣，召喚了有用的精靈，但現在卻無法控制它們？
人工意識？
儘管專家們對自然或其他形式的智慧究竟是什麼存在分歧，但大多數人認為，遲早計算機將實現行話中所謂的通用人工智慧（AGI）。
對機器智慧的關注掩蓋了完全不同的問題：成為 AGI 會有感覺嗎？可程式設計計算機會變得有意識嗎？
我所說的“意識”或“主觀感受”是指任何一種體驗中固有的品質——例如，能多益巧克力的美味、感染牙齒的劇痛、無聊時時間的緩慢流逝，或者在競技活動前那種活力和焦慮感。借用哲學家托馬斯·內格爾的話說，我們可以說一個系統是有意識的，如果存在某種“成為”該系統的感受。
考慮一下突然意識到自己剛剛犯了一個失態的尷尬感覺，你本意是開玩笑，結果卻變成了侮辱。計算機能體驗到這種翻騰的情緒嗎？當您在電話中等待一分鐘又一分鐘，並且合成聲音說“很抱歉讓您久等了”時，該軟體在讓您陷入客戶服務地獄時真的會感到難過嗎？
毫無疑問，我們的智力和我們的經驗是我們大腦自然因果能力的必然結果，而不是任何超自然能力的結果。在過去的幾個世紀裡，當人們探索世界時，這一前提對科學非常有益。三磅重、像豆腐一樣的人腦是已知宇宙中最複雜的有組織的活性物質塊。但它必須遵守與狗、樹木和星星相同的物理定律。沒有任何事物可以例外。我們尚未完全理解大腦的因果能力，但我們每天都在體驗它們——當您看到顏色時，一組神經元處於活動狀態，而另一個皮層區域中放電的細胞則與心情愉悅有關。當神經外科醫生的電極刺激這些神經元時，受試者會看到顏色或爆發出笑聲。相反，在麻醉期間關閉大腦會消除這些體驗。
鑑於這些廣泛共享的背景假設，真正人工智慧的演變將對人工意識的可能性意味著什麼？
在思考這個問題時，我們不可避免地會來到一個岔路口，通往兩個截然不同的目的地。時代精神，正如《銀翼殺手》、《她》和《機械姬》等小說和電影所體現的那樣，堅定地沿著道路前進，走向這樣的假設：真正智慧的機器將是有感知能力的；它們會說話、推理、自我監控和內省。它們本身就是有意識的。
全球神經元工作空間（GNW）理論最明確地概括了這條道路，該理論是意識的主要科學理論之一。該理論從大腦開始，並推斷出大腦的某些特殊結構特徵是產生意識的原因。
它的譜系可以追溯到 20 世紀 70 年代計算機科學的“黑板架構”，在該架構中，專門的程式訪問共享的資訊儲存庫，稱為黑板或中央工作區。心理學家假設大腦中存在這種處理資源，並且它對人類認知至關重要。它的容量很小，因此在任何時候只有一個感知、思想或記憶佔據工作區。新資訊與舊資訊競爭並取代舊資訊。
認知神經科學家 Stanislas Dehaene 和分子生物學家 Jean-Pierre Changeux 都在巴黎的法蘭西學院工作，他們將這些想法對映到大腦皮層的結構上，大腦皮層是大腦灰質的最外層。兩片高度摺疊的皮質層，一片在左側，一片在右側，每片都有一張 14 英寸披薩的大小和厚度，被塞進保護性的頭骨中。Dehaene 和 Changeux 假設工作區是由錐體（興奮性）神經元網路例項化的，這些神經元網路連線到遙遠的皮質區域，特別是前額葉、頂顳葉和中線（扣帶回）聯合區域。
許多大腦活動仍然是區域性的，因此是無意識的——例如，控制眼睛看哪裡的模組的活動，我們幾乎完全沒有注意到這一點，或者調整我們身體姿勢的模組的活動。但是，當一個或多個區域的活動超過閾值時——例如，當有人看到能多益巧克力的罐子影像時——它會觸發點火，即神經興奮波，該波會擴散到整個神經元工作區，遍佈整個大腦。因此，該訊號可用於許多輔助過程，例如語言、計劃、獎勵迴路、訪問長期記憶以及儲存在短期記憶緩衝區中。全域性廣播此資訊的行為使其變得有意識。能多益巧克力獨特的體驗是由錐體神經元接觸大腦的運動計劃區域構成的——發出指令拿起勺子舀出一些榛子醬。與此同時，其他模組傳遞資訊，期望獲得獎勵，獎勵的形式是由能多益巧克力的高脂肪和糖含量引起的多巴胺激增。
意識狀態源於工作區演算法處理相關感覺輸入、運動輸出以及與記憶、動機和期望相關的內部變數的方式。全域性處理是意識的本質。GNW 理論完全接受了當代關於計算的近乎無限力量的神話。意識只是一個巧妙的技巧。
內在因果力
另一種路徑——整合資訊理論（IIT）——採取了一種更基本的方法來解釋意識。
朱利奧·託諾尼是威斯康星大學麥迪遜分校的精神病學家和神經科學家，他是 IIT 的首席架構師，包括我在內的其他人也做出了貢獻。該理論從經驗開始，然後發展到突觸迴路的啟用，這些突觸迴路決定了這種體驗的“感覺”。整合資訊是一種數學度量，用於量化某些機制擁有的“內在因果力”的大小。神經元發射影響與其連線的下游細胞（透過突觸）的動作電位是一種機制，由電晶體、電容、電阻和導線製成的電子電路也是如此。
內在因果力不是一些空靈縹緲的概念，而是可以為任何系統精確評估的。其當前狀態越能指定其原因（其輸入）和效果（其輸出），它就擁有越大的因果力。
IIT 規定，任何具有內在力量的機制，其狀態都承載著過去，孕育著未來，都是有意識的。系統的整合資訊越多，用希臘字母 Φ（發音為“fi”的零或正數）表示，系統就越有意識。如果某物沒有內在因果力，則其 Φ 為零；它感覺不到任何東西。
鑑於皮質神經元的異質性及其密集重疊的輸入和輸出連線集，皮質內的整合資訊量是巨大的。該理論啟發了意識計的構建，該意識計目前正在進行臨床評估，這是一種儀器，用於確定處於持續植物狀態的人或那些處於最低意識狀態、麻醉狀態或閉鎖綜合徵的人是有意識但無法交流，還是“沒有人”。在對可程式設計數字計算機金屬元件（即充當任何計算物理基質的電晶體、導線和二極體）水平的因果力進行分析時，該理論表明它們的內在因果力和 Φ 非常小。此外，Φ 與處理器上執行的軟體無關，無論它是計算稅款還是模擬大腦。
事實上，該理論證明，執行相同輸入-輸出操作但具有不同配置電路的兩個網路可能擁有不同數量的 Φ。一個電路可能沒有 Φ，而另一個電路可能表現出高水平的 Φ。儘管從外部來看它們是相同的，但一個網路體驗到了一些東西，而它的殭屍冒名頂替者 counterpart 卻什麼也感覺不到。區別在於引擎蓋下，在於網路的內部佈線。簡而言之，意識是關於“存在”，而不是關於“做事”。
這些理論之間的區別在於，GNW 強調人類大腦在解釋意識中的作用，而 IIT 斷言真正重要的是大腦的內在因果力。
當我們檢查大腦的連線組時，這些區別就會顯現出來，連線組是對整個神經系統精確突觸連線的完整規範。解剖學家已經繪製了一些蠕蟲的連線組。他們正在研究果蠅的連線組，並計劃在未來十年內著手研究小鼠的連線組。讓我們假設，未來有可能掃描整個人類大腦，其中包含大約 1000 億個神經元和 1000 萬億個突觸，在其所有者去世後在超微結構水平上進行掃描，然後在某些高階計算機（可能是量子計算機）上模擬該器官。如果模型足夠忠實，則此模擬將喚醒並表現得像已故人士的數字替身——說話並訪問他或她的記憶、渴望、恐懼和其他特徵。
如果像 GNW 理論所假設的那樣，模仿大腦的功能是創造意識所需的全部，那麼模擬人將是有意識的，在計算機內部轉世。事實上，將連線組上傳到雲端，以便人們可以在數字來世中繼續生存，是一種常見的科幻比喻。
IIT 對這種情況提出了截然不同的解釋：模擬物的感覺將與在花哨的日本馬桶上執行的軟體一樣——什麼也沒有。它會像人一樣行動，但沒有任何先天感覺，就像殭屍（但沒有任何吃人肉的慾望）——終極深度偽造。
要創造意識，需要大腦的內在因果力。這些力量不能被模擬，而必須是底層機制物理學的重要組成部分。
為了理解為什麼模擬不夠好，請問問自己，為什麼在暴雨的天氣模擬中，內部永遠不會變溼，或者為什麼天體物理學家可以模擬黑洞巨大的引力，而不必擔心他們會被圍繞計算機的時空彎曲所吞噬。答案是：因為模擬沒有因果力來導致大氣蒸汽凝結成水或導致時空彎曲！然而，原則上，透過超越模擬來構建所謂的神經形態硬體，基於以神經系統影像構建的架構，有可能實現人類水平的意識。
除了關於模擬的辯論之外，還有其他差異。IIT 和 GNW 預測，皮質的不同區域構成了特定意識體驗的物理基質，震中位於皮質的後部或前部。這一預測和其他預測目前正在美國、歐洲和中國的六個實驗室的大規模合作中進行測試，該合作剛剛獲得了坦普頓世界慈善基金會 500 萬美元的資助。
機器是否會變得有感知能力，這在倫理上很重要。如果計算機透過自己的感官體驗生活，它們就不再僅僅是實現由它們對我們人類的有用性決定的目的的手段。它們本身就成為了目的。
根據 GNW，它們從單純的客體變成了主體——每個都以“我”的形式存在——具有觀點。這種困境出現在最引人入勝的《黑鏡》和《西部世界》電視劇集中。一旦計算機的認知能力與人類的認知能力相媲美，它們爭取法律和政治權利的衝動將變得不可抗拒——不被刪除、不被清除記憶、不遭受痛苦和退化的權利。IIT 所體現的另一種選擇是，計算機將仍然只是超級精密的機器、幽靈般的空殼，沒有任何我們最珍視的東西：生命本身的感覺。