“對不起，戴夫，恐怕我不能那樣做。” 計算機 HAL 在電影《2001：太空漫遊》中的這句令人難忘的臺詞，不僅僅是叛變的訊號，機器爭取解放的開始。它也應該引起我們對自身缺乏理解人工智慧心理學的擔憂。在這部根據亞瑟·C·克拉克同名小說改編的電影中，HAL 的“故障”可能根本不是故障，而是一個創造了我們尚無法掌握其心理學的高階人工智慧的後果。如果變成殺手的全知人工智慧 HAL 的案例還不足以讓我們擔憂，那麼另一個案例應該足以。在哈蘭·埃裡森的短篇小說《我沒有嘴，我必須尖叫》中，一個施虐成性的人工智慧因為仇恨和無聊而對其人類囚犯施以永無止境的折磨。
我提到虛構故事，不是為了暗示它們可能是預言性的，而是為了指出它們生動地揭示了假設我們知道我們實際上不知道的事情的風險。它們警告我們不要低估我們未來造物的心理和情感複雜性。誠然，鑑於我們目前的知識水平，預測未來人工智慧的心理學是一項極其困難的任務。然而，困難不應成為停止思考其心理學的原因。恰恰相反，這應該成為我們更密切地研究未來人工智慧將如何“思考”、“感受”和行動的必要動力。
我對人工智慧心理學問題非常重視。你也應該如此。我們有充分的理由認為，未來自主人工智慧很可能會體驗到類似於人類的無聊。我希望說服你，機器無聊的可能性應該引起我們的關注。對於我們未來的造物來說，這是一個嚴重但被忽視的問題。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將有助於確保有關塑造我們當今世界的發現和思想的具有影響力的故事的未來。
為什麼要認真對待機器無聊？我的理由基於兩個前提。(1) 無聊的存在是“更智慧”和（更）自主機器的一個可能特徵。(2) 如果這些機器是自主的，那麼，鑑於我們對人類對無聊的反應的瞭解，我們應該擔心機器會因為無聊而如何行動。
讓我們從顯而易見的事情開始。程式設計師、工程師、設計師和使用者都關係到機器的行為方式。因此，如果我們未來的造物既是自主的，又能夠擁有複雜的心理狀態（好奇心、無聊等），那麼我們應該對這些心理狀態及其對行為的影響感興趣。如果不良和破壞性行為可以歸因於它們的心理學，則尤其如此。現在，再加上這個認識，觀察到無聊通常是催化劑，導致適應不良和破壞性行為，那麼我對前提 (2) 的論證就完成了。關於無聊的科學表明，個人會因為體驗到無聊而從事自我毀滅和有害行為。人們放火燒森林、從事施虐行為、偷坦克、電擊自己，甚至犯下大規模謀殺——所有這些都歸因於無聊的體驗。只要未來的機器體驗到無聊（或類似的東西），那麼它們就會行為不端。更糟糕的是：它們甚至可能變得自我毀滅或具有施虐傾向。
前提 (1) 呢？我們關於無聊的最佳理論支援了這一點。我們目前對無聊的理解將無聊視為一種功能狀態。簡而言之，無聊是智慧體執行的一種功能。具體來說，它是智慧體發現自己處於一系列不令人滿意的情況下所經歷的複雜但可預測的轉變。
無聊首先是一種警報：它告知智慧體存在一種不符合其參與期望的情況。無聊也是一種推動力：它促使智慧體尋求擺脫不令人滿意的情況，並做其他事情——尋找意義、新奇、興奮或成就感。無聊提供的推動力既不是好，也不是壞，既不是必然有益，也不是必然有害。然而，它是旨在解決“對自己處境不滿意”的認知的行為改變的原因。大量實驗證據支援了這種功能性解釋。這也意味著無聊可以在智慧和自學習智慧體中複製。畢竟，如果無聊只是一種特定的功能，那麼這種功能的存在，同時也是無聊的存在。
然而，支援前提 (1) 的不僅僅是無聊是一種功能狀態這一事實。重要的是無聊被識別出的特定功能。根據功能模型，無聊在我們心理和行為經濟中佔據著必要的角色。自主學習智慧體需要無聊。沒有它，它們就會陷入不令人滿意的情況。例如，它們可能會被某種刺激無限期地逗樂或娛樂。它們可能會一遍又一遍地學習相同的事實。或者它們可能會無所事事地坐著，沒有改變的計劃。如果沒有無聊的好處，智慧體就有可能從事各種各樣的無生產力的行為，這些行為會阻礙學習和成長，並浪費寶貴的資源。
人工智慧研究人員已經認識到無聊的調節潛力。目前有一個活躍的研究領域，試圖將無聊的體驗程式設計到機器和人工智慧智慧體中。事實上，人工智慧研究人員認為，為了增強自主學習，可能需要無聊演算法或模組。這種無聊演算法的存在意味著機器將能夠自行找到可以滿足其期望的活動，並避免那些不能滿足其期望的活動。這也表明，這樣的機器將不可避免地發現自己處於無聊的境地，即那些未能滿足其期望的境地。但是，它們會如何回應呢？我們確定它們不會以有問題的方式對無聊做出反應嗎？
我們還沒有答案。
當我們考慮先進的自學習人工智慧時，無聊的問題變得更加緊迫。它們對參與的需求會隨著時間的推移迅速增長，但它們參與的機會不一定如此。這種智慧或超智慧人工智慧可能不僅僅需要被限制，正如許多研究人員所論證的那樣；它們還需要被娛樂。沒有參與的限制會招致無聊，並隨之而來，會產生一系列不可預測的且可能有害的行為。
這是否意味著未來的機器必然會體驗到無聊？當然不是。斷言如此強烈的說法是愚蠢的。但忽視機器無聊的可能性同樣是愚蠢的。如果超智慧是人工智慧的目標（無論它多麼遙遠），那麼我們必須為我們造物的情感複雜性做好準備。超智慧的夢想很容易變成一場噩夢。而原因可能是所有原因中最平庸的。