在過去的十年裡，一個名為“生命未來研究所”的組織一直在為公眾圍繞核武器、氣候變化、人工智慧和其他不斷演變的威脅進行的對話中爭取人類福祉。該非營利組織的目的是引導技術發展遠離媒體中頻繁出現的反烏托邦願景。但在討論人工智慧時，他們的團隊不得不面對一個尤其頑固的敵人：終結者。
該研究所未來專案主任艾米莉亞·賈沃斯基說：“當我們最初開始談論人工智慧風險時，每一篇關於我們工作的文章都提到了終結者。”《終結者》電影系列中，一個強大且具有對抗性的機器人幽靈，其驅動力僅僅是無情的邏輯，這很難消除。賈沃斯基補充說，讓人們想象一個強大的人工智慧，他們往往會想到一個擁有“馬基雅維利靈魂”的機器這一虛構原型——即使實際的人工智慧系統本質上“沒有任何惡意，沒有任何人類意圖”。
越來越多的 AI 和計算機科學專家認識到流行敘事對我們集體認知的影響，他們現在希望利用小說來幫助想象演算法不會摧毀地球的未來。他們認為，藝術和人文學科必須發揮作用，以確保人工智慧服務於人類目標。為此，加州大學伯克利分校的人工智慧研究員尼娜·貝古什提倡一個新的學科，她稱之為“人工人文學科”。在她即將出版的書籍《人工人文學科：人工智慧語言的虛構視角》中，她認為“製造這些技術的責任對於技術專家來說太大了，他們無法獨自承擔。”她解釋說，人工人文學科將融合科學和藝術，以利用小說和哲學來探索人工智慧的仁慈潛力。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將幫助確保有關當今塑造我們世界的發現和思想的具有影響力的故事的未來。
倫敦大學的文化歷史學家凱瑟琳·克拉克說：“人文學科必須參與對話，否則這個新世界將在沒有我們的投入的情況下前進”，她研究了文學和人工智慧的交叉領域。
娛樂深刻地影響著人們對人工智慧的看法，正如德克薩斯大學奧斯汀分校研究人員最近的一項公眾輿論研究表明的那樣。然而，這些描述經常忽略積極的技術潛力，而傾向於描繪我們最糟糕的恐懼。“我們需要虛構作品來思考機器的本質，並闡明它們的智慧和創造力可能是什麼，”貝古什說。而且，由於小說“沒有義務反映實際的技術發展”，它可以成為“實驗和反思的公共空間”。
重要的是，事實證明，我們受娛樂驅動的對人工智慧的負面印象反過來會影響該技術在現實世界中的表現；我們對自己講述的關於人工智慧的故事會引導我們以某種方式使用它。根據麻省理工學院媒體實驗室研究人員最近的一項研究，認為人工智慧聊天機器人會像操縱型機器一樣回答的先入為主的觀念會引發惡性反饋迴圈，從而使機器人按照預期行事。使用者內化的恐懼可能會自我實現，為演算法新增對抗性成分。因此，如果小說訓練我們對人工智慧抱有最壞的期望，那麼我們很可能就會得到最壞的結果。
但是，如果我們以某種技巧對待人工智慧模型，它們也會以同樣的方式回應。克拉克與倫敦帝國學院和谷歌DeepMind的默裡·沙納漢最近試圖確定是否可以訓練文字生成人工智慧來提供高質量的人類散文。他們向聊天機器人提供了一個故事的開頭，並使用不同詳細程度和複雜程度的提示來要求它完成敘述。正如他們的預印本結果所發現的那樣，由粗略提示給出的人工智慧編寫的故事平淡無奇，但更優雅和更具創造性的提示導致了更具文學性的散文。這表明我們給予生成式人工智慧什麼，它就會返回給我們什麼。
“為什麼我們總是將科幻小說想象成反烏托邦？為什麼我們不能想象科幻小說能給我們希望呢？”——帕特·帕塔拉努塔蓬，麻省理工學院媒體實驗室
如果這些模式適用於更智慧形式的人工智慧，我們需要在開啟它們的“開啟”開關之前向它們灌輸顧慮。牛津大學的人工智慧末日預言家尼克·博斯特羅姆將這種需求稱為“有截止日期的哲學”。
為了讓更多的藝術家和思想家參與到討論中，生命未來研究所贊助了多項將小說作家和其他創意人士與技術專家聯絡起來的倡議。“你無法減輕你無法想象的風險，”賈沃斯基說。“如果你不想象積極的未來並朝著這些未來前進，你也無法利用技術構建積極的未來並朝著這些未來前進。”例如，該研究所的世界構建競賽彙集了多學科團隊，以概念化各種友好的人工智慧未來。那些想象中的未來包括一個中央人工智慧管理商品公平分配的世界。第二種情景提出了一個不受地域限制的數字國家系統。在另一種情景中，人工智慧治理程式倡導和平。在第四種情景中，人工智慧幫助我們實現更具包容性的社會。
賈沃斯基說，僅僅想象這樣的世界，在這樣的世界中，增長和創新不再依賴於傳統的人力勞動，就允許小說作家和其他思想家提出挑釁性的問題：“意義是什麼樣的？渴望是什麼樣的？在一個共享富足的世界中，我們如何重新思考人類的目的和能動性？”
生命未來研究所還與一個名為好萊塢、健康與社會組織和其他組織聯合成立了藍天劇本創作大賽，該比賽獎勵創作描繪人工智慧公平公正應用的電視劇本的編劇。
好萊塢、健康與社會專案主管凱特·朗格拉爾·福爾布說：“我們都看過很多流行娛樂中的反烏托邦和後世界末日未來”。“很少有對更綠色、更安全、更公正的未來的描繪。”首屆比賽於 2022 年舉行，獎項於去年頒發。在那次比賽中，獲獎作品設定在一個人工智慧平等地服務於所有居民需求的城鎮，當一場百年不遇的謀殺案使他們潛在的技術烏托邦複雜化時，居民們震驚了。在另一個故事中，配備土著智慧的人工智慧顧問支援一個更可持續的社會。另一個故事講述了一個地球，人工智慧已將所有制造業和重型基礎設施轉移到地球之外，從而使下面的陸地生態系統再生。
為了進一步激發這些思路，生命未來研究所正在製作一個免費的、公開提供的“世界構建”課程，以在人工智慧方面培養參與者的希望，而不是厄運。賈沃斯基說，一旦一個人設法擺脫厄運迴圈，就可能很難知道在哪裡指導開發積極人工智慧的努力。為了解決這個問題，該研究所正在開發詳細的場景地圖，這些地圖表明不同的軌跡和決策點可能在長期內將這項技術引向何方。其目的是將這些場景帶給有創造力的藝術家，然後他們將充實這些故事，追求技術與創造力之間的交叉，併為人工智慧開發人員提供有關不同行動方案可能將我們帶向何方的想法。
賈沃斯基說，此刻迫切需要“講故事和人文學科的力量”，以引導人們遠離終結者，走向他們會興奮地與人工智慧和平幸福地生活在一起的未來。
麻省理工學院媒體實驗室的研究員、人工智慧使用者先入為主觀念研究的合著者帕特·帕塔拉努塔蓬說：“我們需要提出一個新的故事”。“為什麼我們總是將科幻小說想象成反烏托邦？為什麼我們不能想象科幻小說能給我們希望呢？”