本文發表於《大眾科學》的前部落格網路，反映了作者的觀點，不一定代表《大眾科學》的觀點
公眾輿論轉變、選舉結果失真、大規模混亂、種族暴力、戰爭。所有這些事件都可能很容易被深度
偽造品——使用人工智慧技術製作的看似真實但偽造的音訊和影片。政府和行業的領導者以及廣大公眾對此感到擔憂是理所當然的。在人工智慧進步的推動下，並透過社交媒體的觸角傳播，深度偽造品可能被證明是人類幾代人以來面臨的最不穩定的力量之一。
很快，僅憑肉眼或耳朵將無法分辨影片或音訊片段是否真實。雖然宣傳並非新鮮事物，但聲音和影像發自內心的直接性賦予了深度
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保關於塑造我們當今世界的發現和想法的有影響力的故事的未來。
偽造品前所未有的影響力和權威性；因此，政府和行業都在爭先恐後地開發可靠檢測它們的方法。例如，矽谷初創公司Amber正在研究檢測最複雜的篡改影片的方法。您可以想象有一天我們可以透過數字水印來驗證影片的真實性和來源。
開發深度
偽造檢測技術很重要，但這只是解決方案的一部分。使深度偽造如此有效的不是它們的技術複雜性，而是人為因素——我們人類心理的弱點。新的研究暗示了問題的根本性。
在向 3000 多名成年人展示帶有捏造文字的虛假影像後，一組研究人員得出了兩個結論。首先，一個人擁有的線上經驗和對數碼攝影的熟悉程度越高，評估資訊的人就越持懷疑態度。其次，證實偏差——將新資訊框定為支援我們預先存在的信念的傾向——是人們判斷虛假資訊真實性的一個重要因素。
研究人員建議將重點放在提高數字素養上，以對抗深度
偽造品。雖然這很明智，但這只是答案的一部分。作為一個社會，我們需要走得更遠。深度偽造之所以如此有效，是因為它們擁有大量願意相信和傳播它們的受眾。我們常常看到我們希望是真的東西——一種願望偏差。
為了理解一個精心製作的深度
偽造品如何利用願望偏差，請考慮以下小插曲。第一個是 1 月份在 Twitter 上瘋傳的一段高中生影片。許多人看到一個沾沾自喜的年輕人嘲笑一位部落長老。另一些人看到一個緊張的青少年不知道如何在陌生的環境中做出反應。這是未經修改的鏡頭。缺少的是背景——真相更加複雜。人們看到了他們想看到的東西。第二個是眾議院議長南希·佩洛西的一段影片，該影片經過粗略編輯，使其看起來好像她醉醺醺地口齒不清。它迅速在社交媒體上傳播，獲得了數百萬的觀看次數，這是政治虛假資訊力量的預演。
今天的資訊來源越來越分散和微定向。很容易找到您同意並想聽的新聞渠道，也很容易忽略您不想聽到的新聞。這正中那些試圖散佈虛假資訊的人的下懷。不良行為者可以劫持社交媒體來放大願望偏差。心理學家發現，透過一種稱為啟動的過程，重複相同的訊息會增強宣傳效果。您接觸某個陳述的次數越多，您就越有可能將其評為真實。
在認知心理學和決策制定方面有大量的研究。其中最好的著作之一是《情報分析心理學》，由長期擔任中央情報局官員的理查茲·休爾撰寫。這本書是美國情報界教授分析技能的藝術和科學的基石。它還包含關於如何幫助對抗深度
偽造品的重要課程，並且應該成為深度偽造時代新教育方法的基礎。
休爾的兩個關鍵點是，僅僅意識到認知偏差是不夠的。您還必須應用培養更高水平批判性思維的方法，例如使用決策樹和因果圖來構建資訊，以及挑戰假設。
美國的
和大學應該將認知心理學納入其必修課程。在資訊和虛假資訊不斷轟炸的時代，社會需要透過教授工具和技術來應對認知偏差，從而提高批判性思維。雖然這並非易事，但即使成功地向一小部分學生教授這些概念也會有所幫助。教導人們在盲目分享令人震驚的影片之前暫停並評估資訊將有助於阻止深度偽造的傳播。
我們不能僅僅依靠技術來解決這個問題。深度
偽造品奏效的原因根深蒂固。我們的偏見使虛假媒體得以蓬勃發展。在瞭解如何發現和解決我們自身和他人的偏見時，我們更有可能減輕深度偽造的威脅。