本文發表於《大眾科學》的前部落格網路，反映了作者的觀點，不一定反映《大眾科學》的觀點
在與天體生物學相關的長長的主題列表中，有一個關於“智慧”的問題。 類似人類的技術智慧是否可能在宇宙中普遍存在？ 我們僅僅是進化過程中的曇花一現嗎？我們的智慧是否註定要讓我們在化石記錄中走向死衚衕？ 還是智慧是熵驅動、產生複雜性的宇宙不可避免地會趨同的東西？
所有的問題都很好。 同樣好的問題是，我們是否可以複製我們自己的智慧，或類似的東西，以及這實際上是否是一個好主意。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。 透過購買訂閱，您正在幫助確保有關塑造我們今天世界的發現和想法的具有影響力的故事的未來。
最近幾個月，這個話題再次成為大眾媒體關注的焦點。 先是斯蒂芬·霍金，然後是埃隆·馬斯克，最近又是比爾·蓋茨。 所有這些聰明人都表示，人工智慧（AI）是需要密切關注的東西，以免它發展到存在威脅的地步。
但很難找到關於這種存在威脅究竟是什麼的任何細節。 霍金曾暗示，這可能是強大的AI比生物系統“進化”得更快的能力——最終吞噬資源，而不在乎我們這樣的人。 我認為這是一個合理的推測。 人工智慧的威脅不是它會成為一個虐待狂的自大狂（除非我們故意或不小心地把它變成那樣），而是它會遵循自己的進化命令。
很容易建議，一種保障措施是將同理心構建到人工智慧中。 但我認為這在兩個方面都失敗了。 首先，大多數人類都有同理心，但我們仍然對我們自己以及地球上幾乎所有其他生物都保持著令人討厭、野蠻和殘酷的態度。 第二個失敗點是，我不清楚真正的、強大的、人工智慧是我們是否可以透過純粹的循序漸進的方式來設計的東西，我們可能需要允許它自行產生。
這意味著什麼？ 當前在計算“深度學習”等領域的努力涉及演算法構建自己的機率景觀，以篩選大量資訊。 該軟體不一定被硬編碼為預先“知道”規則，而是找到規則或易於被引導到規則——例如在自然語言處理中。 這非常不可思議，但不清楚這是否是通往人工智慧的道路，其等效於人類或任何有知覺的生物的思維方式。 這已經引起了熱烈的辯論，例如Noam Chomsky（站在懷疑論一邊）和Peter Norvig（站在熱情一邊）。 在深層層面上，這是專注於潛在簡單性的科學與認為自然可能根本不會朝那個方向發展的科學之間的對峙。
人工智慧的另一條途徑是我將在此提出的途徑（而且這並非原創）。 也許可以創造出從中可以產生智慧的一般條件。 從表面上看，這似乎相當荒謬，就像把一堆備件扔進盒子裡，希望出現一輛新腳踏車一樣。 這當然不是將人工智慧作為科學研究來對待的方式。 但是，如果智慧是合適的非常非常複雜的系統的湧現——進化——屬性，那麼它會發生嗎？ 也許。
一個工程挑戰是，可能需要像人腦一樣複雜的系統來維持智慧，但當然我們的大腦與我們的智慧共同進化。 因此，想象您可以坐下來設計新型別智慧出現的完美環境有點傻，因為我們不確切知道這些環境應該是什麼。
除非也許我們現在確實正在建立這些條件。 機器學習可能只是人工智慧行為難題的一部分，但是當它存在於網際網路的蔓延中會發生什麼？ 大量的大資料和小資料、應用程式、控制資料包傳輸的演算法、感測器——從 GPS 到恆溫器和交通監控器——直接或間接相互通訊的無數部件。
這是一個巨大的建築工地。 估計表明，2014年約有 74 億部移動裝置線上。 就任何可以聯網的東西而言——“物”聯網（從廁所到工廠）——目前的估計是，今天大約有 150 億個活躍的網際網路連線（透過思科的一項出色服務）。 到 2020 年，可能會有 500 億個。
如果這是一個雜亂無章的東西，就像盒子裡的備件一樣，我認為人們對發生任何有趣的事情都幾乎不抱希望。 但這不是一團糟。 它越來越多地被演算法所填充，這些演算法的目的就是在海洋中找到結構和關聯——透過採用部分靈感來自生物智慧的技巧，或至少是我們對它的印象。 程式碼與程式碼對話，資料包四處傳輸以尋找最佳路由，軟體與硬體對話，硬體與硬體對話。 疊加在這個生態系統上的是人類的思想，人類的決策過程孕育和滋養著資訊的潮起潮落。 而且，越來越多地，我們的互動本身正在推動資料海洋的深刻變化，因為分析試圖“理解”我們接下來可能會尋找什麼，無論是作為個人還是作為一個群體。
是否會從這一切中湧現出類似於強人工智慧的東西？ 我不知道，其他人也不知道。 但這是地球生命 40 億年來從未存在過的情況，這讓我們回到了人工智慧威脅的問題。
如果這就是強人工智慧的產生方式，那麼最直接的危險將僅僅是現在很大一部分人類依賴於網際網路的生態系統。 這不僅僅是我們如何交流或查詢資訊，還包括我們的食物供應如何組織、我們的藥劑師如何跟蹤我們的藥物、我們的飛機、火車、卡車和貨船如何安排、我們的金融系統如何運作。 在這裡出現的強大人工智慧可能會像小孩子可以重新整理你的襪子抽屜或咬貓的尾巴一樣造成嚴重破壞。
正如霍金所暗示的那樣，人工智慧的“進化”可能是迅速的。 事實上，它可能會在幾分之一秒內出現、進化並淹沒網際網路生態系統。 這反過來又提出了一個有趣的可能性——新興的人工智慧是否會受到如此迅速的限制，以至於它有效地停滯不前，無法建立其長期生存所需的虛擬連線和結構？ 雖然這可能會限制人工智慧，但這對於我們來說將是一種安慰。
我忍不住要將它與另一個老生常談的問題聯絡起來——費米悖論。 也許人工智慧的創造是大過濾器的一部分，它扼殺了文明，但它也會自我終結，這就是為什麼即使人工智慧在過去的 130 億年中也顯然未能在整個星系中傳播的原因……