諾貝爾獎頒獎典禮於今年12月舉行，表彰了與人工智慧相關的研究，以及團體日本被爆者團體全國聯合會 (Nihon Hidankyo)為結束核戰爭所做的努力。
這是一種引人注目的並置，身為研究深度學習原理的數學家，我對此感觸頗深。在20世紀上半葉，諾貝爾委員會向物理學和化學領域的發現頒發了獎項，這些發現揭示了原子的結構。這項工作也促成了核武器的開發和隨後的部署。幾十年後，諾貝爾委員會將今年的和平獎頒發給了為抵消核科學最終被利用的方式而努力的工作。
基礎物理學研究發展出核武器，這與人工智慧應用帶來的風險之間存在相似之處，而人工智慧的應用則源於計算機科學基礎研究。這些風險包括即將上任的特朗普政府推動人工智慧“曼哈頓計劃”，以及更廣泛的社會風險，包括虛假資訊、工作崗位流失和監控。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您將有助於確保有關塑造我們當今世界的發現和想法的具有影響力的故事能夠擁有未來。
我擔心我和我的同事們與我們的工作可能產生的影響聯絡不足。諾貝爾委員會是否會在下個世紀將和平獎頒發給那些清理人工智慧科學家留下的爛攤子的人們？我決心不讓核武器的故事重演。
大約80年前，數百名世界頂尖科學家加入了曼哈頓計劃，競相在納粹之前製造出原子武器。然而，即使在德國的炸彈計劃於1944年停止後，甚至在德國次年投降後，洛斯阿拉莫斯的工作仍在繼續，沒有停頓。
即使納粹的威脅已經結束，只有一位曼哈頓計劃的科學家——約瑟夫·羅特布拉特——離開了該專案。回顧過去，羅特布拉特解釋說：“你會以某種方式讓自己投入其中，然後忘記自己是個人。這變成了一種癮，你只是為了生產一個小玩意而繼續下去，而沒有考慮後果。然後，完成之後，你就會為自己生產了它找到一些理由。而不是反過來。”
美國軍方不久後進行了首次核試驗。然後，美國領導人授權於8月6日和9日對廣島和長崎進行了兩次轟炸。炸彈炸死了數十萬日本平民，其中一些人當場死亡。另一些人則在多年甚至幾十年後死於輻射中毒的影響。
儘管羅特布拉特的話是幾十年前寫的，但它們是對當今人工智慧研究中普遍存在的精神的令人毛骨悚然的準確描述。
當我最初在普林斯頓高等研究院工作時，開始看到核武器和人工智慧之間的相似之處，克里斯托弗·諾蘭的電影《奧本海默》令人難忘的結尾場景就設定在那裡。在理解人工神經網路的數學內部運作方面取得了一些進展後，我也開始擔心我的工作最終可能帶來的社會影響。在一位同事的建議下，我去與時任該研究所所長的物理學家羅伯特·迪克格拉夫交談。
他建議我從羅伯特·奧本海默的人生故事中尋求指導。我讀了一本傳記，又讀了一本。我試圖猜測迪克格拉夫的想法，但我在奧本海默的道路上沒有看到任何吸引人的東西，當我讀完第三本傳記時，我唯一清楚的是，我不希望自己的人生重蹈他的覆轍。我不希望在生命的盡頭揹負像奧本海默那樣的負擔。
奧本海默經常被引述說，當科學家們“看到一些技術上很吸引人的東西時，[他們]就會繼續做下去。”事實上，2024年諾貝爾物理學獎得主之一傑弗裡·辛頓曾引用過這句話。但這並非普遍真理。當時的傑出女物理學家莉澤·邁特納被邀請加入曼哈頓計劃。儘管她是猶太人，並且僥倖逃脫了納粹的佔領，但她斷然拒絕，說：“我不會參與炸彈的製造！”
羅特布拉特也為科學家如何應對在發揮才能的同時又不忘價值觀的挑戰提供了另一種模式。戰後，他重返物理學領域，專注於輻射的醫療用途。他還透過1957年共同創立的普格沃什科學與世界事務會議，成為核不擴散運動的領導者。1995年，他和他的同事因這項工作而被授予諾貝爾和平獎。
現在，和那時一樣，在人工智慧的發展中，也有一些深思熟慮、腳踏實地的人脫穎而出。採取了類似於羅特布拉特的立場，埃德·牛頓-雷克斯去年從 Stability AI 辭去了領導音樂生成團隊的職位，原因是該公司堅持在未經付費的情況下，使用受版權保護的資料訓練生成式人工智慧模型。今年，蘇奇爾·巴拉吉也因類似的擔憂從 OpenAI 辭去了研究員的職務。
與邁特納拒絕從事其發現的軍事應用相呼應，在2018年的一次公司內部全體員工大會上，梅雷迪思·惠特克表達了員工對“Maven 專案”的擔憂，這是一個國防部合同，旨在開發人工智慧以支援軍用無人機瞄準和監視。最終，員工成功地向谷歌施壓，迫使這家2024年諾貝爾物理學獎得主戴密斯·哈薩比斯工作的公司放棄了該專案。
社會在許多方面影響著科學家的工作。直接的影響是經濟上的；我們集體選擇資助哪些研究，個人選擇為哪些研究成果付費。
間接但非常有效的一種影響是聲望。大多數科學家都關心他們的遺產。當我們回顧核時代——例如，當我們選擇拍攝一部關於奧本海默以及那個時代的科學家的電影時——我們向今天的科學家們發出了關於我們重視什麼的訊號。當諾貝爾獎委員會選擇獎勵今天從事人工智慧研究的人時，他們為今天和未來的人工智慧研究人員設定了強大的激勵。
改變20世紀的事件已經太晚了，但我們可以期待人工智慧取得更好的結果。我們可以從關注那些專注於快速發展能力的人工智慧機器學習領域之外的人開始，轉而效仿牛頓-雷克斯和惠特克這樣的人，他們堅持參與其工作的背景，並且不僅有能力評估，而且有能力應對不斷變化的環境。關注像他們這樣的科學家所說的話，將為現在和未來的積極科學發展提供最佳希望。
作為一個社會，我們可以選擇提升、效仿和樹立哪些人作為下一代的榜樣。正如核時代教給我們的那樣，現在是時候認真評估科學發現的哪些應用，以及今天的科學家中的哪些人，反映的不是我們目前生活的世界的價值觀，而是我們希望居住的世界的價值觀。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。