埃隆·馬斯克全力投入自動駕駛汽車的新計劃，充分信任確保他的特斯拉能夠即時讀取和應對不同駕駛情況所需的人工智慧。人工智慧正在做一些令人印象深刻的事情——例如，上週，AlphaGo 計算機程式的開發者報告說，他們的軟體已經學會像本地人一樣在錯綜複雜的倫敦地鐵系統中導航。甚至白宮也加入了潮流，幾天前釋出了一份報告，以幫助美國為機器能夠像人類一樣思考的未來做好準備。
但計算機科學家奧倫·埃齊奧尼表示，人工智慧要發展到人們可以或應該擔心將世界交給機器的程度，還有很長的路要走。埃齊奧尼在過去的幾十年裡一直在研究並試圖解決人工智慧領域的基礎問題。埃齊奧尼目前是艾倫人工智慧研究所 (AI2) 的執行長，該組織由微軟聯合創始人保羅·艾倫於 2014 年成立，旨在關注人工智慧的潛在益處——並反擊好萊塢甚至其他研究人員所宣揚的關於人工智慧可能威脅人類的資訊。
AI2 自己的專案可能不是很引人注目——例如，它們包括一個名為 Semantic Scholar 的基於人工智慧的學術研究搜尋引擎——但它們確實解決了諸如推理等人工智慧領域的問題，這將使該技術超越開發埃齊奧尼所說的“只能把一件事做得非常好的狹隘專家”。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞事業： 訂閱。透過購買訂閱，您將有助於確保未來能夠繼續講述關於塑造我們當今世界的發現和思想的具有影響力的故事。
《大眾科學》最近在紐約市舉行的人工智慧會議上採訪了埃齊奧尼，他在會上表達了對公司過度推銷該技術當前 capabilities 的擔憂，特別是對一種稱為深度學習的機器學習技術的擔憂。這個過程透過模仿人腦神經網路建立的網路執行大型資料集，以教會計算機自行解決特定問題，例如識別模式或識別照片中的特定物件。埃齊奧尼還就為什麼 10 歲的孩子比 Google DeepMind 的 AlphaGo 程式更聰明，以及最終需要開發能夠防止其他人工智慧程式變得危險的人工智慧“守護者”程式發表了自己的看法。
[以下是採訪的編輯稿。]
人工智慧研究人員在開發這項技術的最佳方法上是否存在分歧？
有些人有點超前了。我們在語音識別、自動駕駛汽車（或至少是有限形式的自動駕駛汽車）以及當然還有 AlphaGo 等領域取得了一些真正的進展。所有這些都是非常真實的技術成就。但是我們如何解讀它們呢？深度學習顯然是一項有價值的技術，但是我們在創造人工智慧方面還有許多其他問題需要解決，包括推理（意味著機器可以理解而不僅僅是計算 2 + 2 = 4），以及獲得機器可以用來建立上下文的背景知識。自然語言理解是另一個例子。即使我們有 AlphaGo，我們也沒有一個能夠閱讀並完全理解一個段落甚至一個簡單句子的程式。
有人說，就人工智慧而言，深度學習是“我們擁有的最好的”。這是否是對深度學習的否定？
當您擁有大量被標記的資料，以便計算機知道其含義，並且您擁有大量計算能力並試圖在該資料中找到模式時，我們發現深度學習是無與倫比的。同樣，以 AlphaGo 為例，該系統處理了 3000 萬個位置，教會了人工智慧程式在不同情況下采取正確的行動。還有其他類似的情況——例如，放射影像——其中影像被標記為有腫瘤或沒有腫瘤，並且可以調整深度學習程式，然後確定它以前未見過的影像是否顯示腫瘤。深度學習還有大量工作要做，是的，這是一項尖端技術。
那麼問題是什麼呢？
問題是，智慧不僅僅是在您擁有大量可用於訓練程式的資料的情況下。想想學生準備 SAT 或紐約州 Regents [大學入學] 考試等標準化考試時可用的資料。這不像他們可以檢視 3000 萬份以前被標記為“成功”或“不成功”的考試來獲得高分。這是一個更復雜、更具互動性的學習過程。智慧還包括從建議中學習，或在對話的上下文中學習，或透過閱讀書籍學習。但同樣，儘管深度學習取得了所有這些顯著進步，我們仍然沒有一個程式可以做 10 歲孩子可以做的事情，即拿起一本書，讀一個章節，並回答關於他們所讀內容的問題。
人工智慧透過標準化考試的能力將如何在技術上取得重大進展？
我們實際上已經在艾倫人工智慧研究所開始將其作為一個研究專案進行研究。去年，我們宣佈為任何能夠構建可以參加標準八年級科學考試的人工智慧軟體的人提供 50,000 美元的獎金。來自世界各地的 780 多個團隊為此工作了幾個月，但沒有人能夠得分超過 60%——即使這樣也只是八年級考試中的選擇題。這向我們展示了對我們今天所處位置的現實和定量評估。
表現最佳的人工智慧系統是如何正確回答問題的？
通常語言中會有提示。最成功的系統使用了來自科學文字和其他公共資源的精心策劃的資訊，然後使用精心調整的資訊檢索技術對其進行搜尋，以找到每個選擇題的最佳候選答案。例如，什麼是最好的導電體：塑膠勺子、木叉子還是鐵棒？程式非常擅長公式，並且可以檢測到電力和鐵或電導率和鐵在大量文件中共同出現的頻率遠高於塑膠和電導率。因此，有時程式可以走捷徑並弄清楚。幾乎就像孩子們做出有根據的猜測一樣。由於沒有系統得分超過 60%，我想說這些程式正在使用統計資料進行有根據的猜測，而不是仔細推理問題。
AlphaGo 背後的 DeepMind 團隊現在擁有一個人工智慧程式，該程式透過使用外部記憶系統超越了深度學習。他們的工作可能對創造更像人類的人工智慧產生什麼影響？
DeepMind 繼續成為推動深度神經網路（旨在模仿人腦的人工智慧）發展的領導者。這項特殊的貢獻是朝著推理圖形結構中連線的事實邁出的重要但很小的一步——例如地鐵地圖。現有的符號程式可以輕鬆執行此任務，但這裡的成就——這值得在自然雜誌上發表一篇論文——是讓神經網路學習如何從示例中執行任務。總的來說，對於 DeepMind 來說是一大步，但對於人類來說是一小步。
例如，人們如何使用深度學習、機器視覺和記憶等方法的組合來開發更完整的人工智慧？
這是一個非常吸引人的想法，實際上，我在華盛頓大學擔任教授時的大量研究都是基於將網際網路用作人工智慧系統資料庫的想法。我們構建了一種稱為開放資訊提取的技術，它索引了 50 億個網頁，從中提取句子，並嘗試將它們對映到機器的可操作知識中。機器具有吸取網頁並獲取所有句子的超能力。問題是句子是文字或圖片形式。我們人類的大腦擁有非凡的能力——我們 [計算機科學家] 尚未破解——將該動作對映到推理等等。使通用資料庫和人工智慧介面的想法成為科幻小說的是，我們還沒有弄清楚如何將文字和影像對映到機器可以像人一樣處理的東西。
您提到過，人類水平的人工智慧至少還需要 25 年。您所說的人類水平的人工智慧是什麼意思？為什麼是這個時間範圍？
對自然語言的真正理解，人類智慧的廣度和普遍性，我們既能下圍棋又能過馬路又能做出像樣的煎蛋卷的能力——這種多樣性是人類智慧的標誌，而我們今天所做的只是開發出只能把一件小事做得非常好的狹隘專家。為了確定這個時間範圍，我詢問了人工智慧促進協會的會士，我們何時才能實現一個在廣義上與人一樣聰明的計算機系統。沒有人說這會在未來 10 年內發生，67% 的人說會在未來 25 年及以後，25% 的人說“永遠不會”。他們會錯嗎？是的。但是你將信任誰，是那些掌握脈搏的人，還是好萊塢？
為什麼這麼多備受尊敬的科學家和工程師警告說人工智慧會消滅我們？
我很難推測是什麼促使像斯蒂芬·霍金或埃隆·馬斯克這樣的人如此廣泛地談論人工智慧。我不得不猜測，談論黑洞過一段時間就會變得無聊——這是一個發展緩慢的話題。我想說的一件事是，當他們和比爾·蓋茨——一位我非常尊敬的人——談論人工智慧變壞或潛在的災難性後果時，他們總是會加上一個限定詞，說“最終”或這“可能”會發生。我同意這一點。如果我們談論千年展望或無限期未來，人工智慧是否有可能預示著人類的末日？絕對有可能，但我不認為這種長期討論應該分散我們對人工智慧與就業、人工智慧與武器系統等實際問題的注意力。而關於“最終”或“概念上”的限定詞在翻譯中會丟失。
鑑於人工智慧的缺點，人們應該擔心汽車製造商對自動駕駛汽車日益增長的興趣嗎？
我不太喜歡沒有方向盤或剎車踏板的自動駕駛汽車。以我對計算機視覺和人工智慧的瞭解，我會對此感到非常不舒服。但我喜歡組合系統——例如，如果您在駕駛時睡著了，它可以為您剎車。人類駕駛員和自動化系統結合在一起可能比單獨任何一方都更安全。這並不簡單。將新技術融入人們的工作和生活方式並非易事。但我不確定解決方案是讓汽車完成所有工作。
谷歌、Facebook 和其他知名科技公司最近啟動了“人工智慧造福人類和社會合作夥伴關係”，旨在為人工智慧研究制定道德和社會最佳實踐。這項技術是否足夠先進，讓他們能夠進行有意義的對話？
世界領先的科技公司齊聚一堂思考這些事情是一個非常好的主意。我認為他們這樣做是為了回應人們對人工智慧是否會接管世界的擔憂。許多這些擔憂都被完全誇大了。即使我們有自動駕駛汽車，也不像 100 輛汽車會聚集在一起說：“讓我們去佔領白宮。”像埃隆·馬斯克這樣的人談論的存在風險即使不是幾個世紀，也至少還有幾十年。然而，存在非常現實的問題：自動化、數字技術和人工智慧總體上確實會影響就業前景，無論是機器人技術還是其他情況，這都是一個非常現實的擔憂。自動駕駛汽車和卡車將大大提高安全性，但它們也會對我們經濟中大量依賴駕駛謀生的工人產生影響。新小組要討論的另一件事是歧視的可能性。如果人工智慧技術用於處理貸款或信用卡申請，它們是否以合法和道德的方式這樣做？
如何確保人工智慧程式在法律和道德上都表現良好？
例如，如果您是一家銀行，並且您有一個正在處理貸款的軟體程式，您不能躲在它後面。說我的電腦做了這件事不是藉口。即使計算機程式不使用種族或性別作為顯式變數，它也可能從事歧視行為。因為程式可以訪問大量變數和大量統計資料，它可能會發現郵政編碼和其他變數之間的相關性，這些變數構成了替代種族或性別變數。如果它使用替代變數來影響決策，那將是非常有問題的，並且人很難檢測或跟蹤。因此，我們建議的方法是人工智慧守護者的想法——人工智慧系統，用於監控和分析人工智慧貸款處理程式等程式的行為，以確保其遵守法律並確保其隨著時間的推移保持道德。
人工智慧守護者今天存在嗎？
我們向社群發出呼籲，開始研究和構建這些東西。我認為可能有一些微不足道的守護者存在，但這在目前很大程度上仍然是一個願景。我們希望人工智慧守護者的想法能夠對抗人工智慧的普遍形象——在好萊塢電影《終結者》等電影中宣傳的——即該技術是一種邪惡的、單一的力量。