1797 年，在工業時代初期，歌德寫下了《魔法師的學徒》這首詩，講述了一個魔法師學徒，由於他的傲慢和半吊子的能力，釋放了一連串他無法控制的事件。
大約 20 年後，年輕的瑪麗·雪萊應邀寫一個鬼故事，她在日內瓦湖畔的一次小型聚會上分享了這個故事。她的故事後來於 1818 年 1 月 1 日以小說《弗蘭肯斯坦；或，現代普羅米修斯》出版。
兩者都是關於我們創造出擁有自己生命的事物的故事。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將幫助確保未來能夠繼續刊登關於發現和塑造我們今天世界的想法的具有影響力的報道。
歌德的詩在學徒驚慌失措地呼救時達到了高潮
師傅，快來幫幫我！
我錯了，竟然召喚
精靈，我承認，
因為我發現他們令人惱火，
現在無法統治他們了。
雖然幸運的是，師傅及時趕回，取消了危險的咒語，但雪萊的故事結局卻不那麼美好：維克多·弗蘭肯斯坦的怪物開始了一場殺戮暴行，而他的創造者卻無法阻止這場屠殺。
是誰預言了我們的命運：歌德還是雪萊？
這就是我們在“弗蘭肯斯坦”200 週年紀念日面臨的問題，因為我們發現自己正在努力應對我們創造的 unintended consequences，從 Facebook 到人工智慧和人類基因工程。我們將安全度過，還是會像維克多·弗蘭肯斯坦一樣，目睹“毀滅和絕對的痛苦”？
科學會拯救我們嗎？
在歌德的詩中，災難透過更巧妙地運用最初引發問題的魔法而得以避免。如今，對此的術語是“反思性現代性”——現代技術可以用來解決自身創造的任何問題的觀點。無論技術科學產生什麼問題，我們都可以用更多的技術科學來解決。在環保主義中，這被稱為生態現代主義。在超人類主義圈子裡，這被稱為前瞻性原則，該原則“不僅包括在行動前預測，還包括在行動中學習。”
相比之下，《弗蘭肯斯坦》是一個警示故事。人類懷有改造自然的衝動，卻冒著超越自身適當界限的風險。維克多·弗蘭肯斯坦開始後悔自己渴望變得“比他的天性所允許的更偉大”的野心。
他哀嘆道：“向我學習……知識的獲取是多麼危險，而一個認為自己的家鄉就是全世界的人是多麼幸福。”
他似乎在警告說，傲慢自大會導致我們所有人走向滅亡。
矽谷拒絕者的崛起
這種對傲慢的擔憂似乎也正在今天的科學家、工程師和企業家中蔓延，他們中的許多人似乎開始感到膽怯。在創造出某些東西之後，他們轉過頭來譴責他們自己的創造物。
他們是像學徒一樣呼喚會來拯救我們的師傅嗎？還是像弗蘭肯斯坦一樣，從事著一場徒勞的嘗試，想要扼殺已經超出我們控制範圍的東西？
想想肖恩·帕克。Napster 的聯合創始人、Facebook 的早期投資者最近宣佈自己是社交媒體的“良心拒服兵役者”。他聲稱，Facebook 可能會損害兒童的大腦，並且肯定是在利用人類的心理弱點。
矽谷還有更多的拒絕者。Facebook“點贊”按鈕的發明者賈斯汀·羅森斯坦已經從他的手機上刪除了該應用程式，理由是擔心成癮、持續的部分注意力障礙以及社交媒體之手下民主的衰落。前谷歌員工特里斯坦·哈里斯和發明了推特資訊流老虎機式下拉重新整理機制的洛倫·布里希特都在警告我們注意他們創造的危險。
安東尼·英格拉菲亞在他工程職業生涯的頭 25 年裡，一直試圖弄清楚如何從岩石中開採出更多的化石燃料。從 1978 年到 2003 年，他致力於政府和行業資助的專案，以改進水力壓裂技術。他自己的研究從未取得成功，但當他了解到其他人的成功以及所需的化學品和水的量時，他“驚恐萬分”，並說，“就好像[我]一生都在研究某件事，而有人來把它變成了弗蘭肯斯坦。”在過去的十年裡，他已成為美國主要的壓裂反對者之一。曾經資助他的行業現在經常對他進行網路暴力和攻擊。
詹妮弗·杜德娜是基因編輯技術 CRISPR 背後的主要科學家之一。在她新書《創造的裂縫》中，她寫道，CRISPR 可以消除多種疾病並改善生活，但它也可能被用於類似於納粹優生學的方式。杜德娜透露，她做噩夢時，希特勒會要求她解釋“這項驚人技術的用途和影響”。
埃隆·馬斯克擔心，對於人工智慧，我們是在“召喚魔鬼”。對他來說，人工智慧是“我們最大的生存威脅”。馬斯克已經超速實現了弗蘭肯斯坦博士最初逃避其可憎創造物的衝動：他正在致力於星際殖民，以便當人工智慧在地球上失控時，我們可以一路逃到火星。
像對待孩子一樣對待技術
人類學家布魯諾·拉圖爾批評馬斯克的這種做法。拉圖爾認為，《弗蘭肯斯坦》的寓意不是我們應該停止製造怪物，而是我們應該愛我們的怪物。問題不在於弗蘭肯斯坦博士的傲慢，而在於他的冷酷無情——他拋棄了他的“孩子”，而不是教育它，讓它學會如何表現。
拉圖爾的觀點是，任何技術進步都不會讓我們獲得完全的控制權，也不會讓我們與世界完全脫離。相反，技術就像育兒一樣，總是需要不斷地融入新的發展，需要照料、煩惱和關愛。
馬斯克的 OpenAI 倡議旨在開發更安全的人工智慧技術，這更符合拉圖爾的想法。
事實證明，拉圖爾正在用自己的建議來檢驗自己。他是我們時代最可怕怪物的首席創造者。這個生物實際上不是科學的產物，而是一種思考科學的方式。拉圖爾一生都在展示科學事實是如何被社會構建的，以及根本不存在獲得真理的公正途徑。
簡而言之，他認為客觀性是虛假的，科學永遠不是真正確定的或確鑿的。
現在，當然，他驚恐地看著這種解構和不信任的精神在我們的後真相時代紮根，這個時代充斥著另類事實、氣候變化否認者和黨派媒體泡沫。
在最近的一次採訪中，拉圖爾承認，他現在後悔自己早年“幼稚的熱情”，攻擊科學，並誓言要扭轉局面
“我們將不得不重新獲得科學的一些權威。這與我們開始進行科學研究時的方向完全相反。”
為了愛我們的怪物，我們必須就它們何時行為不端以及如何處理它們達成一些基本共識。這種共識來自於對傳統真理機構：科學、媒體和大學的廣泛信任。拉圖爾試圖將我們從居住在這些機構中的專家的家長式作風中解放出來，這是一個崇高的追求。
但是他的酸性言論，加上社交媒體的混亂和大筆資金的貪婪，比他想象的更深刻地腐蝕了事物。現在一切都充斥著偏見，一切都容易受到“假新聞！”的下意識指責。氣候變化可能是最終的罪惡，或者它可能是一個騙局。誰能分辨？懷疑主義引起的癱瘓不利於追逐怪物。
本文最初發表於The Conversation。閱讀原文。
