本文發表在《大眾科學》的前部落格網路中，反映了作者的觀點，不一定反映《大眾科學》的觀點
人工智慧仍處於起步階段。但它很可能被證明是有史以來最強大的技術。它有潛力改善健康，增強智力，提高生產力，拯救環境，並增強自由和民主。
但是，隨著人工智慧的智慧不斷提高，以不負責任的方式使用人工智慧的危險也帶來了人工智慧可能成為社會和文化氫彈的潛力。 這項技術可能會剝奪我們的自由，增強專制政權和種族滅絕，控制我們的行為，將我們變成人類機器，並最終將我們變成奴隸。 因此，我們必須非常小心人工智慧的崛起； 我們不敢犯錯。 而我們最好的防禦措施可能是對人工智慧進行極端節食。
我們已經知道人工智慧的某些威脅性屬性。 首先，這項技術的進步一直並將繼續令人震驚地迅速。 許多人可能最近震驚地讀到微軟宣佈人工智慧在閱讀X光片方面被證明比訓練有素的放射科醫生更好。 大多數報紙讀者沒有意識到他們每天閱讀的報紙有多少是人工智慧撰寫的。 這本不應該發生； 機器人應該取代體力勞動工作，而不是專業的腦力勞動。 然而，我們現在看到：人工智慧正在迅速吞噬整個行業——而這些工作將永遠不會回來。
關於支援科學新聞業
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞業 訂閱。 透過購買訂閱，您正在幫助確保有關發現和塑造我們當今世界的想法的具有影響力的故事的未來。
我們也在越來越接近創造出能夠實現通用人工智慧的機器——也就是說，像人類一樣智慧的機器。 我們可能永遠無法完全達到真正的意識，但就處理能力、推理、隱喻甚至後天獲得的智慧而言，很容易想象人工智慧超越人類。 20多年前，國際象棋大師加里·卡斯帕羅夫與IBM的超級計算機“深藍”對弈時，感受到了棋盤另一端的思想。 今天，世界各地有數十萬臺計算機比“深藍”更強大——這還不包括數百萬臺可以訪問雲的個人計算機。
我們也知道，逐利動機以及權力和控制的慾望已經推動了大量反社會應用程式的快速增長。 我們只需要看看中國政府使用面部識別和其他人工智慧技術來控制其公民的行為，就能看到這樣一條軌跡。 該國的社會信用體系監控數百萬公民的行為，獎勵他們政府認為的“良好”行為，並懲罰他們“不良”行為——透過擴大或限制他們訪問日常生活機構的許可權。 那些受到懲罰的人甚至常常不知道他們的生活正在受到限制。 他們只是沒有獲得鄰居享有的地點、晉升、娛樂和服務。
與此同時，在自由世界，最令人擔憂的威脅是工業界利用人工智慧來剝削我們——以及特殊利益集團建立和操縱親和力群體以加劇社會兩極分化。 後一項活動在像今年這樣的選舉年中尤其令人震驚。 我們也對執法部門、國稅局和監管機構使用人工智慧來更好地監視可能犯罪、逃稅和犯下其他違規行為的人感到擔憂。 其中一些是必要的——但如果沒有護欄，可能會導致警察國家。
聽起來很極端？ 想想看，我們所有人現在都違背自己的意願被拘留，甚至常常在我們不知情的情況下，被關在所謂的“演算法監獄”中。 我們不知道是誰判處我們入獄，甚至不知道刑期。 我們所知道的是，根據某些人工智慧系統對我們行為（例如信用評級低）做出的決定，我們的選擇正在受到限制。 預先決定正在對我們看到的資訊做出：一家公司是否會檢視我們的簡歷，或者我們是否有資格獲得優惠利率的房屋貸款，我們是否可以租到某個公寓，我們必須支付多少汽車保險（我們的駕駛質量由連線到我們發動機計算機的新裝置監控），我們是否能進入我們選擇的大學，以及警察是否應該密切監控我們的行為。
展望未來，我們可以肯定，這種監控將會增長。 我們也知道，人工智慧將被團體用來招募成員和影響他們的觀點，並被外國政府用來影響選舉。 我們也可以肯定，隨著人工智慧工具變得更加強大，以及物聯網的增長，虛擬武器庫將變得更具商業和社會致命性。
我們需要採取行動。 問題是，即使是現在，也很難把馬放回馬廄。 對人工智慧日益增長的力量的擔憂已經導致了斯蒂芬·霍金和埃隆·馬斯克等人的警告。 但很難弄清楚在立法方面該怎麼做。 我們還沒有看到任何能夠在不扼殺人工智慧巨大潛在優勢的情況下產生廣泛影響的提案。
歐洲人現在擁有“解釋權”，這要求對人工智慧系統做出的所有決定提供人類可讀的理由。 當然，這種透明度是可取的，但不清楚它能有多大好處。 畢竟，人工智慧系統處於不斷變化之中。 因此，根據發現不公正現象而採取的任何行動都將像塑造水一樣。 人工智慧只會採用不同的形狀。
我們認為更好的方法是讓人工智慧不那麼強大。 也就是說，不是控制人工智慧，而是讓它進行極端節食。 那麼人工智慧消耗什麼呢？ 我們的個人資訊。
如果人工智慧系統和負責“虛擬監獄”的演算法無法獲得這些個人資訊，無法滿足它們對這些資料的貪婪需求，它們必然會變得不那麼具有侵入性和強大。
我們如何扼制這種個人資訊的流動？ 一種顯而易見的方法是賦予個人對其私人資料的所有權。 今天，我們每個人都被我們不斷生成的資料光環所包圍。 而這些資料對任何希望捕獲和從中獲利的人來說都是免費的目標。 為什麼不將這些資訊儲存在資訊受託人（如 Equifax）的保險箱等同物中，而不是讓這些資訊直接流入世界的伺服器呢？ 一旦安全地儲存在那裡，消費者就可以決定誰可以訪問這些資料。
例如，假設消費者想要獲得貸款，他或她可以將相關資訊釋出給信貸提供商——信貸提供商反過來將有權將該資訊用於該個案。 如果消費者想從Facebook等公司獲得免費服務，他或她可以為該應用程式單獨提供相關資訊。 如果政府需要訪問該資訊以抓捕恐怖分子，則需要獲得搜查令。 （這種系統的另一個優點是，消費者只需到一個地方即可檢查檔案中資訊的準確性。）
在人工智慧系統掌握關於我們每個人的無限知識之前，人類社會已經存在了數千年。 即使我們透過剝奪機器的個人資訊來限制這種知識，它也將繼續存在。 人工智慧仍然能夠提高經濟效率，創造醫療進步，減少交通，並制定更有效的法規以確保環境健康。 它將不太能夠做的是威脅人類的自主權、自由和對幸福的追求。
就人工智慧而言，精簡意味著不那麼刻薄。 現在是對人工智慧進行資料節食的時候了。