長期以來，科幻小說一直在娛樂人工智慧變得有意識的想法——想想 1968 年電影《2001太空漫遊》中的 HAL 9000，這個從超級計算機變成反派的角色。隨著人工智慧 (AI) 的飛速發展，這種可能性變得越來越不荒謬，甚至得到了人工智慧領域領導者的認可。例如，去年，ChatGPT 背後的公司 OpenAI 的首席科學家 Ilya Sutskever 在推特上表示，一些最前沿的 AI 網路可能“略微有意識”。
許多研究人員表示，人工智慧系統尚未達到有意識的程度，但人工智慧發展的步伐讓他們開始思考：如果它們有意識，我們該如何知道？
為了回答這個問題，由 19 位神經科學家、哲學家和計算機科學家組成的小組提出了一份標準清單，如果滿足這些標準，則表明系統很有可能是有意識的。他們在本週早些時候在 arXiv 預印本儲存庫1中釋出了他們的臨時指南，在同行評審之前。合著者、位於加利福尼亞州舊金山的非營利研究組織 AI 安全中心的哲學家羅伯特·朗表示，作者們之所以努力，是因為“似乎缺乏對 AI 意識進行詳細、經驗性、深思熟慮的討論”。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和想法的有影響力的故事的未來。
該團隊表示，未能識別人工智慧系統是否變得有意識具有重要的道德意義。加州大學爾灣分校的神經科學家、合著者梅根·彼得斯表示，如果某事物被標記為“有意識”，那麼“這會極大地改變我們人類認為應該如何對待該實體的方式”。
朗補充說，據他所知，構建先進人工智慧系統的公司並沒有做出足夠的努力來評估模型的意識，併為發生這種情況時該怎麼做制定計劃。“儘管事實上，如果你聽取主要實驗室負責人的言論，他們確實表示他們想知道人工智慧意識或人工智慧知覺，”他補充道。
自然聯絡了參與推進人工智慧的兩家主要科技公司——微軟和谷歌。微軟的一位發言人表示，該公司的人工智慧開發以負責任的方式協助人類提高生產力為中心，而不是複製人類智慧。自 GPT-4（ChatGPT 最先進的公開版本）推出以來，很明顯“需要新的方法來評估這些人工智慧模型的能力，因為我們探索如何充分發揮人工智慧的潛力，造福整個社會”，該發言人表示。谷歌沒有回應。
什麼是意識？
研究人工智慧意識的挑戰之一是定義有意識意味著什麼。彼得斯說，為了報告的目的，研究人員專注於“現象意識”，也稱為主觀體驗。這是存在的體驗——成為一個人、動物或人工智慧系統（如果其中一個確實變得有意識）是什麼感覺。
有許多基於神經科學的理論描述了意識的生物學基礎。但是，對於哪個是“正確”的理論，尚未達成共識。為了建立他們的框架，作者因此使用了許多這些理論。其想法是，如果人工智慧系統以符合許多這些理論的各個方面的方式運作，那麼它有意識的可能性就更大。
他們認為，與僅僅讓系統透過行為測試（例如，詢問 ChatGPT 它是否有意識，或者挑戰它並觀察它的反應）相比，這是一種更好的評估意識的方法。這是因為人工智慧系統在模仿人類方面已經變得非常出色。
蘇塞克斯大學布萊頓附近意識科學中心主任、神經科學家 Anil Seth 認為，該小組的方法（作者稱之為理論密集型方法）是一個很好的方向。然而，它突出了“我們需要更精確、經過良好測試的意識理論”，他說。
理論密集型方法
為了制定他們的標準，作者假設意識與系統如何處理資訊有關，而與它們的構成無關——無論是神經元、計算機晶片還是其他東西。這種方法稱為計算功能主義。他們還假設，透過對人類和動物進行腦部掃描和其他技術研究的基於神經科學的意識理論可以應用於人工智慧。
基於這些假設，該團隊選擇了六種理論，並從中提取了一份意識指標清單。其中之一——全域性工作空間理論——例如，斷言人類和其他動物使用許多專門的系統（也稱為模組）來執行認知任務，例如看和聽。這些模組獨立但並行地工作，並透過整合到一個系統中來共享資訊。朗說，一個人會透過評估特定人工智慧系統是否顯示出從該理論得出的指標，“透過檢視系統的架構以及資訊如何在其中流動”來進行評估。
塞思對該團隊提案的透明度印象深刻。“它非常周到，不浮誇，並且使其假設非常明確，”他說。“我不同意其中一些假設，但這完全沒問題，因為我很可能錯了。”
作者表示，該論文遠非關於如何評估人工智慧系統意識的最終定論，他們希望其他研究人員幫助改進他們的方法。但是，將這些標準應用於現有的人工智慧系統已經成為可能。該報告評估了大型語言模型（如 ChatGPT），並發現這種型別的系統可以說具有與全域性工作空間理論相關的一些意識指標。然而，最終，這項工作並未表明任何現有的人工智慧系統是意識的有力候選者——至少目前還沒有。
本文經許可轉載，並於 2023 年 8 月 24 日首次發表。