拿出一項先進技術。加入一點幻想。充分攪拌，觀察事態發展。
這是好萊塢科技災難大片的完美配方。雖然陳詞濫調，但這正是我們經常為新興技術設想的場景。想想超智慧機器、實驗室培育的人類、重新設計整個物種的能力——你明白我的意思了。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們今天世界的發現和想法的具有影響力的故事的未來。
當然，現實世界通常要平凡得多：與其說是“殭屍末日”，不如說是“青少年戲弄超級計算機；教它壞習慣”。
縱觀今年世界經濟論壇（WEF）評選的十大新興技術，這可能是一件好事。
自 2012 年以來，我一直是一個世界經濟論壇顧問小組的成員，該小組幫助編制一份年度新興技術清單，這些技術有望改變我們的生活。今年的清單包括自動駕駛汽車、區塊鏈（比特幣背後的技術）、下一代電池以及一些開始嶄露頭角的其他技術。
該清單旨在提高人們對潛在變革技術的認識，以便投資者、企業、監管機構和其他人瞭解即將發生的事情。這也是一個讓我們思考隨著技術成熟可能會出現哪些問題機會。
誠然，其中一些技術會超出最有創造力的末日編劇的想象力——我懷疑，“石墨烯末日”或“鈣鈦礦電池之日”還需要一段時間才能登上銀幕。但其他一些技術則顯示出在夏季驚悚片中出現的巨大潛力，包括“控制大腦”的光遺傳學和聽起來神秘的“奈米物聯網”。
不過，撇開好萊塢的幻想不談，很難預測新興技術可能存在的缺點。然而，這正是我們需要做的，以確保它們在長期內得到負責任的開發。
技術問題，技術解決方案
人們很容易會問，像今年十大技術中的技術可能會造成哪些具體的危害，然後簡單地找出如何“解決”這些問題。例如，我們如何確保“有邏輯”的自動駕駛汽車與不那麼“有邏輯”的人類安全地共享道路？或者，我們如何防止基因程式設計用於生產商業化學品的細菌汙染環境？這些都是可以透過技術解決方案解決的風險。
但是，關注這些問題可能會掩蓋新興技術中固有的更為微妙的危險，這些威脅不易透過技術手段解決，而且我們很容易忽視。
例如，注入網際網路連線的奈米感測器，向世界揭示你最私密的生物學細節，可能會帶來僅靠技術無法解決的社會和心理風險。
圍繞“開放式人工智慧（AI）生態系統”也存在類似的擔憂——這是亞馬遜的 Echo、蘋果的 Siri 和微軟的 Cortana 等系統的下一步發展。透過結合“傾聽”裝置、雲計算和物聯網，機器越來越能夠將理解正常對話的能力與根據它們聽到的內容採取行動的能力結合起來。這是一個真正具有變革性的技術平臺。但是，當這些人工智慧生態系統開始竊聽私人對話並與他人分享時會發生什麼？或者獨立決定什麼對你最有利？這些可能性引發了僅靠技術解決方案難以解決的倫理和道德問題。
擴充套件我們對價值的理解
一種梳理新興技術可能產生的更微妙影響的方法是將風險視為對某種有價值的東西的威脅——這個概念嵌入在風險創新這個相對較新的概念中。這種“價值”取決於對不同個人、社群和組織而言重要的東西。
在這種情況下，健康、財富和可持續環境顯然是重要的“有價值的東西”，生計、食物、水和住所也是如此。對這些任何一項的威脅都符合更傳統的方法來理解風險——例如，健康風險可以理解為威脅讓你生病的東西，而環境風險可以理解為威脅環境完整性的東西。
但是，我們也可以將對有價值事物的威脅這一概念擴充套件到不太常見的風險型別：例如，對自我價值、文化、安全感、公平，甚至是根深蒂固的信仰的威脅。
這些涉及定義我們作為個人和社群的事物，並觸及給予我們目標感和歸屬感的本質。透過這種方式，相關的威脅可能包括因新技術奪走你的工作而導致的不公平或自我價值感的削弱。或者，擔心誰知道關於你的什麼以及他們可能如何使用它。或者，擔心因使用新技術而導致社會邊緣化。甚至，對神聖信仰（如生命的聖潔或自由選擇的權利）受到新興技術能力挑戰的恐懼。
這些威脅不容易捕捉。然而，它們對人們產生了深遠的影響——因此，也對新技術如何開發和使用產生了深遠的影響。更廣泛地將風險視為對價值的威脅，對於理解技術創新可能產生的意外後果以及如何避免這些後果尤其有幫助。
錯過新技術的風險
這種風險處理方法也為考慮不開發技術的潛在風險打開了大門。除了現有價值外，未來價值對大多數人和組織也很重要。
例如，自動駕駛汽車最終可以防止數十萬起道路死亡；光遺傳學——利用基因工程和光來操縱腦細胞活動——可以幫助治癒或控制使人衰弱的神經系統疾病；而石墨烯等材料可以確保比以往任何時候都有更多的人獲得廉價的清潔水。不開發這些技術可能會威脅到許多人認為極其有價值的東西。
當然，另一方面，這些技術也可能威脅到某些人認為重要的東西。自動駕駛汽車可能會破壞人類的責任感，更不用說駕駛的樂趣了。光遺傳學提出了非自願神經控制的可能性。如果大量釋放到環境中，石墨烯可能對某些生態系統有害。
透過考慮新興技術如何與我們認為重要的東西相互作用，就可以更容易地權衡開發這些技術可能存在的缺點——或者至少是在沒有充分考慮的情況下開發這些技術——與阻止其開發或完全不開發這些技術的缺點進行比較。
最大的風險
當將風險視為對價值的威脅時，出現的是一種更豐富的思考方式，即新興技術如何影響人、社群和組織，以及如何負責任地開發這些技術。這種方法迫使我們認識到，開發新技術的後果是複雜的，並以不同的方式影響著人們——並非所有方式都朝著更好的方向發展。這不一定是一個令人舒服的重新概念化——但是從這個新的角度看待風險確實為造福許多人而不是少數人的技術鋪平了道路，而不是相反。
在現實中，與好萊塢大片的簡單性不同，與新興技術相關的風險很少是明確的，而且幾乎從不簡單明瞭。然而，它們確實存在。今年的每一項世界經濟論壇十大新興技術都有可能威脅到某些人或組織有價值的東西——無論是破壞既有技術或商業模式、危及就業機會，還是影響健康和福祉。
這些危險是特定於環境的，常常相互交織在一起，有時會相互衝突，而且常常與不開發技術的風險相平衡。然而，理解和解決這些危險對於實現這些技術提供的長期利益至關重要。
也許，這裡存在最大的風險——要麼在我們熱衷於開發這些技術，要麼在我們受好萊塢啟發的對潛在後果的恐懼中，我們忽視了開發新技術以使我們的世界變得更美好的價值，而不僅僅是一個不同的世界。
安德魯·梅納德是世界經濟論壇奈米技術全球議程委員會的聯合主席，也是世界經濟論壇新興技術元委員會的成員。
本文最初發表在The Conversation。閱讀原文。