虛假資訊製造了新的世界秩序

作為一名研究虛假資訊對社會影響的人，我常常希望矽谷那些加速資訊傳播的年輕企業家們，在商業部署他們的技術之前，能夠被迫進行一次關於 9/11 場景的推演。

那天最標誌性的照片之一顯示，一大群紐約人正抬頭凝視。這張照片的力量在於我們知道他們目睹的恐怖。很容易想象，今天，場景中的幾乎每個人都會拿著一部智慧手機。有些人會拍攝他們的所見所聞，並將其釋出到 Twitter 和 Facebook 上。在社交媒體的推動下，謠言和虛假資訊將猖獗。針對穆斯林社群的充滿仇恨的帖子會大量湧現，演算法會響應前所未有的分享、評論和點贊量，從而助長猜測和憤怒。外國虛假資訊 агенты 將會擴大分裂，在社群之間製造隔閡，並播下混亂的種子。與此同時，那些被困在塔樓頂端的人們將直播他們最後的時刻。

在歷史上最糟糕的時刻對技術進行壓力測試，可能會闡明社會科學家和宣傳家長期以來所知的：人類天生就會對情感觸發因素做出反應，並且如果虛假資訊強化了現有的信念和偏見，就會分享這些資訊。然而，社交平臺的設計者們卻狂熱地相信，連線會促進寬容，對抗仇恨。他們沒有看到技術不會從根本上改變我們是誰——它只能對映到現有的人類特徵上。

支援科學新聞報道

如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保未來能夠持續釋出關於塑造我們當今世界的發現和思想的具有影響力的報道。

線上虛假資訊自 20 世紀 90 年代中期就已存在。但在 2016 年，幾起事件清楚地表明，更黑暗的力量已經出現：自動化、微定向和協調正在助長旨在大規模操縱公眾輿論的資訊宣傳活動。在菲律賓，當羅德里戈·杜特爾特在 Facebook 活躍度的助推下崛起時，記者們開始發出警告。緊隨其後的是 6 月英國脫歐公投和 11 月美國總統大選的意外結果——所有這些都促使研究人員系統地調查資訊被用作武器的方式。

在過去的六年裡，關於我們受汙染的資訊生態系統成因的討論幾乎完全集中在科技公司採取（或未採取）的行動上。但這種關注過於簡單化。一系列複雜的社會轉變正在使人們更容易受到虛假資訊和陰謀論的影響。由於政治和經濟動盪，特別是日益擴大的收入不平等，對機構的信任正在下降。氣候變化的影響正變得越來越明顯。全球移民趨勢引發了對社群將發生不可逆轉改變的擔憂。自動化的興起使人們擔心自己的工作和隱私。

想要加深現有緊張局勢的不良行為者瞭解這些社會趨勢，他們設計的內容希望能夠激怒或激起目標使用者的興趣，以至於受眾將成為資訊的傳播者。其目標是讓使用者利用自己的社會資本來強化原始資訊並賦予其可信度。

這些內容中的大多數並非旨在說服人們朝任何特定方向發展，而是為了製造混亂，壓倒一切，並破壞對民主制度的信任，從選舉系統到新聞業。儘管在 2016 年總統大選之後，人們已經做了很多關於為選舉週期做準備美國選民的工作，但誤導性和陰謀論內容並非始於那次選舉，也不會很快結束。隨著旨在操縱和放大內容的工具變得更便宜、更容易獲得，將使用者武器化，使其成為虛假資訊的不知情 агенты 將會變得更加容易。

將語境武器化

總的來說，用來討論虛假資訊問題的語言過於簡單化。有效的研究和干預需要明確的定義，但許多人使用有問題的短語“假新聞”。世界各地的政治家都在用這個詞來攻擊自由媒體，這個詞很危險。研究表明，受眾經常將其與主流媒體聯絡起來。它通常被用作一個包羅永珍的詞彙，用來描述不盡相同的事物，包括謊言、謠言、惡作劇、虛假資訊、陰謀論和宣傳，但它也掩蓋了細微之處和複雜性。這些內容中的大部分甚至沒有偽裝成新聞——它們以表情包、影片和社交帖子形式出現在 Facebook 和 Instagram 上。

2017 年 2 月，我建立了七種型別的“資訊紊亂”，試圖強調正被用來汙染資訊生態系統的內容範圍。其中包括諷刺，它並非旨在造成傷害，但仍有可能愚弄人；捏造內容，它是 100% 虛假的，旨在欺騙和造成傷害；以及虛假語境，即當真實內容與虛假的語境資訊共享時。在那一年晚些時候，科技記者侯賽因·德拉赫桑和我釋出了一份報告，其中繪製了虛假資訊、誤導資訊和惡意資訊之間的區別。

虛假資訊（故意虛假且旨在造成傷害的內容）的傳播者受到三個不同目標的驅動：賺錢；擁有政治影響力，無論是外國的還是國內的；以及為了製造麻煩而製造麻煩。

傳播誤導資訊（由不意識到內容是虛假或誤導性的人分享的虛假內容）的人受社會心理因素驅動。人們在社交平臺上展示自己的身份，以感受與他人的聯絡，無論“他人”是政黨、不給孩子接種疫苗的父母、關注氣候變化的活動家，還是屬於特定宗教、種族或民族群體的人。至關重要的是，當人們在沒有意識到虛假資訊是虛假的情況下分享虛假資訊時，虛假資訊會變成誤導資訊。

我們添加了“惡意資訊”一詞來描述旨在造成傷害而共享的真實資訊。一個例子是俄羅斯 агенты 入侵了民主黨全國委員會和希拉里·克林頓競選團隊的電子郵件，並將某些細節洩露給公眾以損害聲譽。

在 2016 年至 2020 年間監測全球八次選舉中的虛假資訊時，我觀察到策略和技術發生了轉變。最有效的虛假資訊始終是那些帶有一定真實性的資訊，而且事實上，最近傳播的大部分內容都不是假的——而是具有誤導性的。影響 агенты 沒有完全捏造故事，而是重新構建真實內容並使用誇張的標題。該策略涉及將真實內容與兩極分化的話題或人物聯絡起來。由於不良行為者總是領先於平臺稽核一步（或多步），他們正在將帶有煽動性的虛假資訊重新標記為諷刺，使其不會被事實核查流程識別出來。在這些努力中，語境，而不是內容，正在被武器化。結果是故意的混亂。

以 2019 年 5 月流傳的眾議院議長南希·佩洛西的編輯影片為例。這是一個真實的影片，但虛假資訊 агенты 放慢了影片速度，然後釋出了該剪輯，使其看起來佩洛西口齒不清。正如預期的那樣，一些觀看者立即開始猜測佩洛西喝醉了，這段影片在社交媒體上瘋傳。然後主流媒體對此進行了報道，這無疑讓更多人瞭解了這段影片，而這些人原本可能不會接觸到它。

研究發現，傳統上報道誤導性內容可能會造成更多傷害。我們的大腦天生依賴啟發式方法或心理捷徑來幫助我們判斷可信度。因此，重複和熟悉是根深蒂固誤導性敘事的最有效機制之二，即使觀看者已經收到了語境資訊，解釋了他們為什麼應該知道某個敘事不是真的。

不良行為者知道這一點：2018 年，媒體學者惠特尼·菲利普斯為資料與社會研究所釋出了一份報告，探討了那些試圖推行虛假和誤導性敘事的人如何使用技巧來鼓勵記者報道他們的敘事。未來研究所的另一份報告發現，只有 15% 的美國記者接受過關於如何更負責任地報道虛假資訊的培訓。現在記者和事實核查員——以及任何具有廣泛影響力的人，如政治家和影響者——面臨的一個核心挑戰是如何解開和揭穿虛假資訊，如佩洛西影片，而又不會給最初的內容提供更多氧氣。

表情包：虛假資訊的動力源泉

2017 年 1 月，NPR 廣播節目《美國生活》採訪了特朗普總統就職典禮活動“可悲舞會”上的一些特朗普支持者。這些人曾深入參與使用社交媒體來倡導總統。關於特朗普令人驚訝的崛起，一位受訪者解釋說：“我們用表情包把他送上了權力寶座……我們引導了文化。”

“表情包”一詞最初由理論家理查德·道金斯在他 1976 年出版的著作《自私的基因》中使用，用來描述“一種文化傳播單位或一種模仿單位”，一種在文化中迅速傳播的思想、行為或風格。在過去的幾十年裡，這個詞被挪用用來描述一種線上內容型別，它通常是視覺的，並採用特定的美學設計，將色彩鮮豔、引人注目的影像與塊狀文字相結合。它經常指代其他文化和媒體事件，有時是明確的，但大多數時候是隱含的。

隱含邏輯的特徵——對關於某個事件或人物的共同知識的示意和暗示——使表情包具有影響力。修辭格是論證透過省略前提或結論來完成的修辭手法。通常，關鍵參考（最近的新聞事件、政治人物的宣告、廣告宣傳活動或更廣泛的文化趨勢）不會被明確說明，而是迫使觀看者自己將各個點連線起來。觀看者所需的額外工作是一種有說服力的技巧，因為它將個人拉入與他人聯絡的感覺中。如果表情包是在嘲笑或激起對另一個群體的憤怒，那麼這些關聯會得到進一步加強。

這些視覺形式看似玩鬧的性質意味著，表情包尚未被許多研究和政策界人士承認為虛假資訊、陰謀論或仇恨的有力載體。然而，最有效的虛假資訊是那些會被分享的資訊，而表情包往往比文字更易於分享。整個敘事都可以在你的資訊流中看到；無需點選連結。安·肖·米娜 2019 年出版的著作《從表情包到運動》概述了表情包如何改變社會抗議和權力動態，但這種型別的嚴肅考察相對較少。

事實上，在 Facebook 上與 2016 年大選相關的俄羅斯建立的帖子和廣告中，有很多是表情包。它們側重於伯尼·桑德斯、希拉里·克林頓或唐納德·特朗普等兩極分化的候選人，以及槍支權利和移民等兩極分化的政策。俄羅斯的行動經常針對基於種族或宗教的群體，如“黑人的命也是命”或福音派基督徒。當 Facebook 釋出俄羅斯生成的表情包檔案時，當時的一些評論集中在表情包的簡陋及其影響上。但研究表明，當人們感到恐懼時，過度簡化的敘事、陰謀論解釋和妖魔化他人的資訊會變得更加有效。這些表情包做得恰到好處，足以促使人們點選分享按鈕。

Facebook、Instagram、Twitter 和 Pinterest 等技術平臺在鼓勵這種人類行為方面發揮著重要作用，因為它們的設計本質上是為了表演。在分享內容之前放慢速度檢查內容是否真實遠不如在這些平臺上向你的“受眾”強化你愛或恨某種政策那樣具有吸引力。許多這些平臺的商業模式都與這種身份表演有關，因為它鼓勵你在他們的網站上花費更多時間。

研究人員已經構建了監控技術來跟蹤不同社交平臺上的表情包。但他們只能調查他們可以訪問的內容，並且許多社交平臺上的視覺帖子資料並非對所有研究人員開放。此外，用於研究文字的技術（如自然語言處理）比用於研究影像或影片的技術先進得多。這意味著正在推出的解決方案背後的研究不成比例地偏向於基於文字的推文、網站或透過 URL 釋出的文章，以及對政治家在演講中提出的主張進行事實核查。

儘管人們對科技公司提出了很多指責——並且理由正當——但它們也是其運營的商業環境的產物。任何演算法調整、平臺內容稽核指南的更新或監管罰款都無法單獨在所需層面改善我們的資訊生態系統。

參與解決方案

在一個健康的資訊公地中，人們仍然可以自由地表達他們想表達的內容——但旨在誤導、煽動仇恨、強化兩極分化或造成人身傷害的資訊不會被演算法放大。這意味著它不會被允許在 Twitter 或 YouTube 內容推薦器中成為熱門趨勢。也不會被選擇出現在 Facebook 資訊流、Reddit 搜尋或 Google 熱門結果中。

在放大問題得到解決之前，正是我們不經思考就分享的意願將被虛假資訊 агенты 用作武器。因此，一個紊亂的資訊環境要求每個人都認識到他們自己也可能成為資訊戰中的一個載體，並培養一套線上和線下導航溝通的技能。

目前，關於公眾意識的對話往往側重於媒體素養，通常帶有家長式的框架，認為公眾只需要被教導如何成為更聰明的的資訊消費者。相反，線上使用者最好被教導發展認知“肌肉”，以進行情感懷疑，並接受訓練以抵禦旨在觸發基本恐懼和偏見的如潮內容。

任何使用促進社互動動的網站的人都應該好好學習它們是如何運作的——尤其是演算法如何透過“優先考慮激發對話和人與人之間有意義的互動”來決定使用者看到什麼，正如 Facebook 曾經說過的。我還建議每個人都至少嘗試在 Facebook 上購買一次廣告。設定廣告系列的過程有助於瞭解可用資訊的粒度。您可以選擇將目標受眾細分為特定的人群，例如 32 至 42 歲、居住在北卡羅來納州羅利-達勒姆地區、有學齡前兒童、擁有研究生學位、是猶太人並且喜歡卡瑪拉·哈里斯的女性。該公司甚至允許您在允許您私下失敗的環境中測試這些廣告。這些“暗廣告”允許組織將帖子定向到特定人群，但它們不會顯示在該組織的主頁上。這使得研究人員或記者很難追蹤哪些帖子被定向到不同人群，這在選舉期間尤其令人擔憂。

Facebook 活動是另一個操縱渠道。外國干預美國大選最令人震驚的例子之一是發生在德克薩斯州休斯頓的抗議活動，但這場活動完全是由位於俄羅斯的網路噴子策劃的。他們設定了兩個看起來是真實的美國 Facebook 頁面。一個名為“德克薩斯之心”，支援脫離聯邦；它為 2016 年 5 月 21 日建立了一個名為“阻止德克薩斯州伊斯蘭化”的“活動”。另一個頁面“美國聯合穆斯林”宣傳了自己的抗議活動，名為“拯救伊斯蘭知識”，時間和地點與前者完全相同。結果是兩群人出來互相抗議，而抗議活動的真正建立者則慶祝在休斯頓放大了現有緊張局勢的成功。

虛假資訊 агенты 的另一種常用策略被稱為“人造草皮”。這個詞最初與那些在網上撰寫虛假產品評論或試圖讓人覺得粉絲社群比實際規模更大的群體有關。現在，自動化宣傳活動使用機器人或激情四射的支持者和付費網路噴子的複雜協調，或兩者兼而有之，以讓人覺得某個人或政策獲得了相當大的基層支援。他們希望，如果他們讓某些主題標籤在 Twitter 上成為熱門趨勢，特定的資訊傳遞就會被專業媒體採納，他們將能夠引導放大效應，以霸凌特定的人或組織使其沉默。

瞭解我們每個人是如何受到此類宣傳活動的影響——以及可能在不知不覺中參與其中——是反擊那些試圖顛覆共享現實感的人的關鍵第一步。然而，也許最重要的是，接受我們的社會在多大程度上容易受到人為放大的影響，需要以明智和冷靜的方式進行。恐嚇只會助長更多的陰謀論，並繼續降低對高質量資訊來源和民主制度的信任。對於被武器化的敘事，沒有永久的解決方案。相反，我們需要適應這種新常態。正如塗抹防曬霜是社會隨著時間的推移養成的習慣，然後在獲得更多科學研究成果後進行調整一樣，建立抵禦紊亂資訊環境的韌性也需要以同樣的方式來思考。