本文發表於《大眾科學》的前部落格網路，反映了作者的觀點，不一定反映《大眾科學》的觀點
在我們能夠設計符合倫理道德的人工智慧、適當監管人工智慧或將任務分配給正確的系統之前，我們需要了解什麼是人工智慧。機器現在是如何思考的，我們對未來有何期待？哪些任務適合人工智慧，哪些不適合，為什麼？為了回答這些問題，我們需要對不同型別的智慧有細緻入微的理解。
人工智慧對智慧的最初理解可以追溯到托馬斯·霍布斯的格言“理性……不過是計算”。這種觀點被解釋為對符號表示的操縱，催生了第一代人工智慧——已故哲學家約翰·豪格蘭將其稱為“老式好人工智慧”，或 GOFAI。另一種智慧方法是當代深度學習系統和其他形式的第二波人工智慧的基礎——這些系統在遊戲、面部識別、醫療診斷等方面取得了驚人的成果。
因為這兩種方法都涉及對呈現給它們的輸入表示進行操縱，所以第一波和第二波人工智慧仍然都是計算的形式。但它們在表示的處理上有所不同。GOFAI 植根於經典的邏輯三段論，例如“所有人都是必死的；蘇格拉底是人；因此，蘇格拉底是必死的。” 邏輯推理系統和定理證明器就是這種型別——程式旨在基於相對少量的資訊，對少量強相關的變數進行深入的多步驟推理。
支援科學新聞業
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞業 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們今天世界的發現和想法的有影響力的故事的未來。
第二波人工智慧系統則相反：基於海量資料，對大量弱相關的變數進行淺層推理。正是後一種方法讓計算機能夠識別朋友的面孔、夕陽和迎面而來的汽車。
第二波人工智慧中的表示通常被稱為“分散式的”，因為關於世界許多常識性特徵的資訊分散在這些系統的內部網路中。第二波系統還能夠保留驚人的細節量，而不是將它們的輸入簡化為簡單的命題陳述，例如“這是一個蘋果”或“那是萊姆病”。例如，除了將 X 射線分類為顯示肺癌之外，第二波人工智慧系統還可以捕獲腫瘤的密度、對比度、形狀和其他特徵，所有這些都可能與藥物選擇或預測結果相關。
為什麼這種方法效果更好？為什麼第二波人工智慧在 GOFAI 失敗的地方表現出色？答案是本體論的。我們人類如何將世界解析為物件、屬性、關係等等——正如我將要說的，我們如何註冊世界——部分取決於我們的興趣、我們的文化、我們的社群、我們的專案。未解釋的世界極其混亂。我們用來概念化我們經驗的物件和屬性不能被視為公理或直接從這種氾濫中“讀取”出來，正如第一波人工智慧簡單地假設的那樣。
相反，以相關方式註冊世界——並保留保證這些註冊的微觀細節和細微差別——是智慧的一項成就。在某些情況下，例如玩遊戲，第二波系統正在學習自行執行此操作。在其他情況下，我們人類首先標記資料（“那是停車標誌”或“那是豹貓”），系統學習模仿我們。但總的來說，這種模式匹配和分類是第二波技術的無可否認的優勢。
那麼，人類的情況又如何呢？第二波人工智慧，在更快的處理器、更多的資料和更好的演算法的放大下，會達到人工智慧的聖盃——通用人工智慧，從而產生與人類相等或超越人類的系統嗎？
不，它不會。
在最好的情況下，人類擁有判斷力——我的意思是，一種經過數千年並在不同文化中鍛造的成熟的、開放思想的、審慎思考的能力，作為理性、倫理和深思熟慮的行動的基礎。這就是我們說某人“有良好的判斷力”時所表達的意思。這是一種我們努力灌輸給孩子的能力，是我們用來衡量成年人的標準，也是人類思維最終必須渴望達到的標準。
判斷力不僅需要註冊世界，還需要以適合環境的方式進行註冊。這是一個難以置信的高標準。它要求系統面向世界本身，而不僅僅是它作為輸入的表示。它必須能夠區分表象與現實——並服從現實作為權威。
必須有利害關係，系統容易受到現實世界威脅。一個具有判斷力的系統必須關心它正在思考的內容，必須願意為真理而戰，必須像豪格蘭所說的那樣，“認真對待”。
這些能力意味著理解並致力於作為一個整體的世界——一個單一的、包羅永珍的整體。沒有計算系統理解它在說什麼；要做到這一點，它必須讓每一個物件、屬性或事態都對存在於世界中負責。例如，如果我甚至開始認為我面前的咖啡杯自發地向上跳了兩英寸——如果我的感知系統要向我的皮層傳遞這個假設——我不會相信它，不會將證據視為令人信服的。
相反，我會懷疑我是否在沒有意識到的情況下眨了眼，是否有人晃動了我的桌子，是否我剛才喝的不是咖啡，或者是否正在發生地震。也就是說，我會意識到一些不可能的事情似乎發生了，但因為不可能的事情不會發生，我會將這種明顯的不可能性視為誤解或錯誤的證據。我會尋求糾正那個錯誤。可能是我的註冊方案未能公正地對待世界，需要更換。
換句話說，為了適當地處理上下文，僅僅擁有世界模型、因果模型或其他一些“預先註冊”的概念方案是不夠的。沒有完整的世界模型；沒有通用的概念方案。這是第二波人工智慧的本體論教訓。因此，判斷力不僅使註冊現象對存在於世界中負責；它還使註冊方案本身負責。這些方案必須使世界變得可理解。
擁有判斷力就是能夠評估任何適用的註冊方案——動態地、持續地和始終警惕地。想想為什麼我們將育兒委託給成年人。一個孩子，在允許一場災難發生後，可能會爭辯說：“但我做了你說的每一件事！” 並非所有重要的東西都可以說出來。再多的說教，無論多麼廣泛——沒有有限的世界模型——都無法捕捉到所有相關的東西。
總之，判斷力需要存在性地委身於世界，對世界的現實負責，並抵禦虛假或不可能的事情。一個具有判斷力的系統以尊重和謙遜的態度對待託管它的世界、它註冊的實體以及整個嵌入式社會。