在我生命的大部分時間裡，我對機器人感到失望。電影總是將它們描繪成會走路、會說話、類人、聰明且酷炫的形象。但幾十年來，真正的機器人只不過是汽車工廠的裝配線手臂。
不過，在過去三年裡，情況發生了一些變化。自動駕駛汽車已在公共道路上行駛了近兩百萬英里。無人機已經變得足夠智慧，可以避開障礙物。而雙足行走的機器人突然變成了現實。
現在，包括比爾·蓋茨、斯蒂芬·霍金和埃隆·馬斯克在內的知名人士正在公開談論我們日益智慧的機器所帶來的危險。“完全的人工智慧可能意味著人類的終結，”霍金曾對 BBC 表示。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保未來繼續產出關於塑造我們當今世界的發現和想法的有影響力的報道。
容易受驚的公眾不信任人工智慧是一回事。但蓋茨、霍金和馬斯克也這樣認為？
事實證明，這三位都是在回應麻省理工學院教授馬克斯·泰格馬克發起的一項倡議。他在 2014 年共同創立了生命未來研究所，該研究所的宗旨是考慮人工智慧的陰暗面。
“當我們發明不太強大的技術，比如火時，”泰格馬克告訴我，“我們搞砸了很多次；然後我們發明了滅火器。搞定。但是對於像人類水平的人工智慧這樣更強大的技術，我們希望第一次就把事情做對。”
令人擔憂的是，一旦人工智慧變得足夠智慧，它將能夠每小時或每分鐘不斷改進自己的軟體。它將很快變得比人類聰明得多，以至於——好吧，我們實際上不知道。“這可能很棒，也可能很糟糕，”泰格馬克說。
在艾薩克·阿西莫夫的許多未來主義故事中，人類為機器人編寫了機器人三定律。例如：“機器人不得傷害人類，也不得因不作為而使人類受到傷害。” 這種軟體難道不能保障工作嗎？
“關於阿西莫夫小說的有趣之處，”泰格馬克說，“幾乎所有關於三定律的故事都是關於它們出了什麼問題。”
精確地程式設計機器來服從我們可能會以意想不到的方式適得其反。“如果你告訴你的超級人工智慧汽車儘可能快地到達機場，它會把你送到那裡——但你到達時會被直升機追趕，渾身都是嘔吐物。” 這與預期不太一樣。
但是還有更大的危險。今年 7 月，泰格馬克的小組釋出了一封公開信，對自主武器日益增長的威脅表示擔憂——這是恐怖分子的夢想。（霍金、馬斯克和蘋果公司聯合創始人史蒂夫·沃茲尼亞克是這封信的 2500 名聯署人之一。）聯合國正在討論禁止人工智慧武器。
在更日常的層面上，機器人可能會奪走我們更多的工作。當然，首當其衝的是那些最重複性或最容易自動化的工作，例如店員、稅務員和律師助理。（一些日本銀行已經僱用機器人來協助客戶。）“如果你教幼兒園或你是按摩治療師，你將可以在更長的時間內保住你的工作，”泰格馬克說。他認為，撇開經濟因素不談，失業也將意味著人類成就感的喪失。“今天，我們如此多的目標感來自我們的工作。我們應該認真思考我們希望繼續從事並從中獲得認同感的工作型別。教育？藝術、文化、服務業？或者到底是什麼？”
這種警鐘促使馬斯克（特斯拉汽車公司聯合創始人兼 SpaceX 創始人）向生命未來研究所捐贈了 1000 萬美元（並與霍金等人一起擔任該事業的科學顧問）。該小組迄今已收到數百份研究資助提案，資助了其中數十份，並就該主題舉行了多次重要會議。
最終，資訊不是人工智慧將不可避免地將我們引向末日或厭倦的生活，而是我們對其影響的思考應與人工智慧本身的快速發展保持同步。“如果我們做得對，人工智慧也具有巨大的優勢——有可能治癒所有疾病、消除貧困、幫助生命傳播到宇宙中。我們不要像沒有正確升起風帆的帆船那樣隨波逐流。讓我們規劃我們的航程，精心計劃，”泰格馬克說。