系統崩潰將阻止機器人末日

如果你發現自己被一個瘋狂的雙足機器人追趕,只需進入一個房間並將門關上

以下文章經允許轉載自The Conversation,這是一個涵蓋最新研究的線上出版物。

你是否對第四頻道的新劇《真實的人類》中近乎人類的智慧機器人的行為所暗示的意義感到擔憂? 你是否曾對斯蒂芬·霍金和伊隆·馬斯克關於超智慧人工智慧威脅的末日警告感到焦慮? 你的孩子是否曾睜大眼睛思考過機器人無人機大軍,例如漫威電影《復仇者聯盟2:奧創紀元》中的那些?

如果你覺得這令人毛骨悚然,或者對上述任何問題回答“是”,你應該立即觀看最近的DARPA機器人挑戰賽的錄影。


關於支援科學新聞

如果您喜歡這篇文章,請考慮透過以下方式支援我們屢獲殊榮的新聞報道: 訂閱。透過購買訂閱,您將有助於確保關於當今塑造我們世界的發現和想法的具有影響力的故事的未來。


DARPA機器人挑戰賽的獨特之處在於,它要求雙足機器人只能做人類日常所做的事情:下車、走進建築物、爬樓梯、在不平坦的地面上行走、轉動閥門,以及拿起並使用鋸子在牆上切一個洞。 這些技能很難說是忍者戰士英國版級別的,但對於贏得 200 萬美元獎金的 KAIST 團隊以及所有失敗者來說,這都很困難。

獲勝的機器人只完成了九項任務中的八項,其中許多工對於一個七歲的孩子來說都不會有困難。事實上,除了三個團隊之外,所有團隊都未能完成下靜止汽車這個相當基本的挑戰,即使沒有車門使情況複雜化。

即使是簡單的事情也很難
這個比賽錄影如此有趣的原因在於,它無情地戳破了人工智慧至高無上的神話。我們經過數百萬年的進化,才得以在現實世界中生活和行動。因此,我們往往會低估完成最簡單事情所需的複雜性。我們錯誤地認為諸如穿過門和拿起電動工具之類的行為很簡單,因為我們覺得它們很簡單。同樣,我們發現某些事情(例如在腦海中將 82 乘以 17)很困難,即使對於計算機/機器來說,這都是基本的。

這造成了一種認知偏差:如果機器可以做我們覺得困難的事情,我們往往會假設它也可以輕鬆地做簡單的事情。像所有偏差一樣,這不一定是真的。

我們還假設存在普遍性偏差:由於我們可以做許多不同的事情,因此我們假設可以做其中一件事情的機器也可以做其他事情。這與計算機研究的進行方式相沖突,計算機研究的重點往往是讓計算機做一件事情(部分原因是無法輕易地研究“做所有事情”)。機器的成長環境與我們完全不同,因此它們擅長做不同的事情也不足為奇。

科幻小說仍然……是小說
“人工智慧”等同於“計算機(或非人類)是人”的概念可以追溯到古代。詩人奧維德筆下的皮格馬利翁愛上了他雕刻的雕像蓋拉提亞,如此栩栩如生以至於它(她)活了過來。這個想法仍然很有影響力。好萊塢和一般的虛構作品都喜歡機器人。從《終結者》《人工智慧》,從《她》到《真實的人類》,“機器人”是一個很容易用來探索具象身份的複雜問題的比喻。

事實上,機器人(捷克語中的“工人”)並非來自研究,而是來自 1920 年代捷克作家 卡雷爾·恰佩克的戲劇《R.U.R.》,該劇利用了人們普遍對僕人(工人階級)接管的恐懼。因此,這相當於擔心如果獸人接管倫敦會發生什麼,或者如何應對殭屍末日:這很有趣,但與現實無關。

計算機不是人
計算機科學家 賈倫·拉尼爾 表示,問題在於計算機作為人的神話,這種神話由於技術世界中佔據主導地位的亞文化而得以延續。對機器人的憧憬推動著研究人員不斷前進,產生新的成就,這些成就又反過來為虛構作品中的神話構建提供了素材,而這反過來又鼓勵了資金和進一步的研究。

在 1960 年代,電影《2001:太空漫遊》認為完全人工智慧只需 10 到 20 年即可實現,這個數字在之前和之後的所有專家那裡都保持著驚人的一致。我們的反應被計算機作為人的神話所引導,促使我們認為這是一個在阻止天網(終結者式)或歡迎我們新的機械統治者之間做出的選擇。 在其核心,這些恐懼暴露了關於計算應該是什麼的平行和競爭願景。

早期人工智慧先驅艾倫·圖靈強烈地表達了計算機是合成人開始的觀點:他的圖靈測試將人工智慧定義為與人類無法區分的人工智慧

另一方面,道格拉斯·恩格爾巴特 開創了一個替代願景:將計算作為一種“增強人類智力”的手段(恩格爾巴特還為我們帶來了滑鼠、點陣圖螢幕和圖形使用者介面)。好萊塢最接近恩格爾巴特願景的電影是尼爾·伯格的電影《永無止境》,其中一種藥丸可以讓人們利用他們整個大腦的潛在力量。但是,由於僅僅是增強並不會引起虛構作品所要求的哲學問題,因此它不太可能創造出神話般的力量。

如果你擔心人工智慧和機器的崛起,拉尼爾指出,雖然計算機效能有所提高,但可靠性並沒有提高 - 過去 40 年裡,故障之間的時間沒有太大變化,因此被征服的人類只需等待下一次系統崩潰即可。 而且無論如何,如果 DARPA 的挑戰可以說明任何問題,那麼關上門似乎對於阻止機器人進入非常有效。

本文最初發表於The Conversation。閱讀原文

© .