以下文章經 The Conversation 許可轉載，The Conversation 是一家報道最新研究的線上出版物。
2016 年美國大選是對社交媒體上政治虛假資訊危險的警鐘。在經歷了另外兩個充斥著虛假資訊的選舉週期後，社交媒體公司在識別和 противодействие 虛假資訊方面積累了經驗。然而，虛假資訊對社會構成的威脅本質仍在形式和目標上不斷變化。關於 2020 年總統大選的彌天大謊已成為一個主要主題，並且 移民社群日益成為虛假資訊宣傳活動的焦點 ——這些活動是蓄意傳播虛假資訊的行為。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您將有助於確保未來能夠繼續報道關於塑造我們當今世界的發現和想法的具有影響力的故事。
社交媒體公司已宣佈應對 2022 年中期選舉中虛假資訊的計劃，但各公司的方法和有效性各不相同。我們請社交媒體專家評估 Facebook、TikTok、Twitter 和 YouTube 在應對這項任務方面的準備情況。
2022 年看起來像 2020 年
Dam Hee Kim，亞利桑那大學傳播學助理教授
社交媒體是 2022 年大多數美國人獲取新聞的重要來源，但它們也可能是傳播虛假資訊的沃土。主要社交媒體平臺宣佈了應對 2022 年美國中期選舉中虛假資訊的計劃，但專家指出，這些計劃與他們 2020 年的計劃並沒有太大不同。
一個重要的考慮因素：使用者並不侷限於僅使用一個平臺。一家公司的干預可能會適得其反，並促進虛假資訊的跨平臺傳播。主要社交媒體平臺可能需要協調努力以打擊虛假資訊。
Facebook/Meta：C
Facebook 因其在 2016 年總統競選期間未能打擊虛假資訊而受到廣泛指責。儘管 2016 年總統大選期間 Facebook 上與虛假資訊的互動（點贊、分享和評論）達到每月 1.6 億次的峰值，但 2018 年 7 月的水平（每月 6000 萬次）仍然很高。
更新的證據表明，在管理傳播虛假資訊的帳戶、標記虛假資訊帖子以及減少這些帳戶和帖子的傳播範圍方面，Facebook 的方法仍有改進空間。2020 年 4 月，事實核查人員通知 Facebook 59 個傳播有關 COVID-19 虛假資訊的帳戶。截至 2021 年 11 月，其中 31 個帳戶仍然活躍。此外，中國官方運營的 Facebook 帳戶一直在用英語向其數億粉絲傳播有關烏克蘭戰爭的虛假資訊。
Twitter：B
雖然自 2016 年以來，Twitter 通常不被視為虛假資訊的最大罪魁禍首，但其虛假資訊應對措施是否足夠尚不清楚。事實上，Twitter 上虛假資訊的分享量從 2016 年總統大選期間的每月約 300 萬次增加到 2018 年 7 月的每月約 500 萬次。
這種模式似乎仍在繼續，因為在 2019 年 4 月至 2021 年 2 月期間，超過 30 萬條推文（不包括轉發）包含在事實核查後被標記為虛假的連結。這些推文中只有不到 3% 的推文顯示了警告標籤或彈出框。在分享相同虛假資訊連結的推文中，只有少數顯示了這些警告，這表明對虛假資訊新增警告的過程並非自動、統一或高效。Twitter 確實宣佈已重新設計標籤，以阻止進一步互動並方便點選以獲取更多資訊。
TikTok：D
作為增長最快的社交媒體平臺，TikTok 有兩個顯著特點：其主要為年輕成人的使用者群經常在該平臺上消費新聞，其短影片通常帶有引人注目的影像和聲音。雖然這些影片比基於文字的內容更難審查，但它們更可能被記住、喚起情感並說服人們。
TikTok 應對虛假資訊的方法需要重大改進。2022 年 9 月對熱門新聞主題的搜尋結果顯示，使用者生成的影片中，20% 包含虛假資訊，並且包含虛假資訊的影片通常排在前五個結果中。當使用中性短語作為搜尋詞時，例如“氣候變化”，TikTok 的搜尋欄會建議更多帶有傾向性的短語，例如“氣候變化已被揭穿”或“氣候變化不存在”。此外，TikTok 將可靠來源與傳播虛假資訊的帳戶並列呈現。
YouTube：B-
在 2019 年 4 月至 2021 年 2 月期間，170 個 YouTube 影片被事實核查機構標記為虛假。其中剛過一半的影片顯示了“瞭解更多”資訊面板，但沒有被標記為虛假。YouTube 似乎主要透過自動檢測涉及 COVID-19 等爭議性話題的某些關鍵詞來新增資訊面板，而不一定是在檢查影片內容是否包含虛假資訊之後。
YouTube 可以推薦更多來自可靠來源的內容，以減輕審查所有上傳影片中虛假資訊的挑戰。一項實驗收集了在具有空白觀看歷史記錄的使用者觀看了一個在事實核查後被標記為虛假的影片後推薦的影片列表。在推薦的影片中，18.4%具有誤導性或帶有極端黨派色彩，並且排名前 10 的推薦頻道中有 3 個頻道從Media Bias/Fact Check獲得了混合或較低的事實報道評分。
彌天大謊
Anjana Susarla，密歇根州立大學資訊系統教授
隨著 2022 年中期選舉臨近，虛假資訊研究人員主要關注的問題是關於 2020 年大選的虛假敘事的盛行。技術與社會變革專案的一個虛假資訊專家團隊研究了一組跨平臺的網路影響者，他們透過“彌天大謊”（即關於 2020 年大選中存在廣泛選舉舞弊的虛假說法）積累了大量粉絲。《華盛頓郵報》在 2022 年 9 月 20 日發表了一份分析報告，發現該報認定為 2020 年大選虛假資訊最大傳播者的 77 個帳戶中的大多數仍然在所有四個社交媒體平臺上活躍。
總的來說，我認為沒有一個平臺非常有效地解決了這些問題。
Facebook/Meta：B-
Meta 是 Facebook 的母公司，它允許政治家豁免於事實核查規則。與 Twitter 或 TikTok 不同，他們也不禁止政治廣告。Meta 尚未公開任何關於其規則如何專門防止虛假資訊的政策，這讓觀察家質疑其應對中期選舉期間虛假資訊的準備情況。
尤其令人擔憂的是，政治家透過選舉虛假資訊從微定向（針對狹隘的人口群體）中獲益，例如一位國會候選人在 Facebook 上發起廣告宣傳活動，指控在 2020 年大選期間掩蓋“選票收集”行為。針對少數族裔社群（尤其是西班牙裔和拉丁裔社群）的選舉虛假資訊，在 WhatsApp 等訊息應用程式上是 Meta 的另一個主要執法挑戰，因為該公司的內容稽核資源主要分配給英語媒體。針對少數族裔社群，尤其是西班牙裔和拉丁裔社群的選舉虛假資訊是 Meta 的另一個主要執法挑戰，因為該公司的內容稽核資源主要分配給英語媒體。
Twitter：B
Twitter 不允許政治廣告，並且在減少與選舉相關的虛假資訊方面做出了最大的努力。Twitter 強調其使用“預先闢謠”，即教育人們瞭解虛假資訊策略的過程，是減少虛假資訊傳播的有效方法。
然而，Twitter 在執行其政策方面也一直不一致。例如，亞利桑那州州長候選人卡里·萊克在 Twitter 上詢問她的粉絲是否願意監督投票站是否存在選民欺詐案件，這導致民權倡導者警告可能在投票站發生恐嚇事件。
TikTok：D
TikTok 不允許政治廣告，這使得與選舉相關的虛假資訊的微定向在這個平臺上不那麼成問題。許多研究人員強調了 TikTok 缺乏透明度，這與 Twitter 和 Facebook 等平臺不同，後者更願意接受研究人員的努力，包括共享資料。TikTok 宣告的內容稽核方法是“可疑內容”不會透過推薦進行放大。
然而，影片和音訊內容可能比文字內容更難稽核。在 TikTok 等平臺上的危險在於，一旦誤導性影片被平臺刪除，經過操縱和重新發布的版本可能會很容易地在平臺上流傳。例如，Facebook 採用人工智慧輔助方法來大規模檢測其所謂的“已知虛假資訊的近似重複內容”。TikTok 尚未釋出關於如何處理與選舉相關的虛假資訊的近似重複內容的詳細資訊。
在國際上，TikTok 因其無法抑制與選舉相關的虛假資訊而面臨巨大批評。在德國上次全國選舉期間，TikTok 帳戶冒充了著名的政治人物。
YouTube：B-
YouTube 的政策是刪除“違規”敘事並終止在 90 天內收到三次警告的頻道。雖然這可能有效地控制某些型別的虛假資訊，但 YouTube 很容易受到相當隱蔽的與選舉相關的內容的影響，包括關於選票販運的虛假資訊。一部名為“2000 mules”的虛假資訊電影仍在平臺上流傳。
觀察家批評 YouTube 在國際上未能充分解決與選舉相關的虛假資訊問題。例如，在巴西，在訊息應用程式 Telegram 上分享 YouTube 影片已成為傳播與選舉相關的虛假資訊的流行方式。這表明 YouTube 也可能容易受到美國有組織的與選舉相關的虛假資訊的影響。
準備程度各異
Scott Shackelford，印第安納大學商業法與倫理學教授
美國民主面臨的許多威脅都源於由不平等、不公正和種族主義助長的內部分裂。這些裂痕有時會被希望轉移和破壞美國政府穩定的外國有意擴大和加深。網路空間的出現使虛假資訊傳播過程進入超速狀態，既加速了故事跨越國界和平臺病毒式傳播，又導致傳統和社交媒體型別激增，這些媒體願意傳播虛假故事。一些社交媒體網路已被證明比其他網路更能應對這一時刻。
Facebook/Meta：C
儘管採取措施限制中國宣傳在 Facebook 上的傳播，但兩黨似乎已達成共識，認為 Facebook 沒有從 2016 年的選舉週期中吸取教訓。事實上，它仍然允許政治廣告，包括共和黨國會候選人喬·肯特聲稱 2020 年選舉中存在“猖獗的選民欺詐”的廣告。
儘管 Facebook 已採取一些措施提高透明度，例如其廣告庫所示，但它要贏回消費者信任並履行其社會責任還有很長的路要走。
Twitter：B*
Twitter 是最早在其平臺上禁止政治廣告的社交媒體平臺之一，此前 LinkedIn、Pinterest 和 TikTok 也採取了類似行動。不過，它因執行不力而受到批評。例如，印第安納大學社交媒體觀察站有一個名為 Hoaxy 的工具，可以即時搜尋各種虛假資訊。
此評分中的 * 號表示人們擔心 Twitter 未來在打擊虛假資訊方面的努力，因為它可能被埃隆·馬斯克收購，而馬斯克一直公開表示他希望允許不受限制的言論。
TikTok：F
從表面上看，TikTok 不允許政治廣告這一事實預示著它有能力根除虛假資訊，但實際上，它在這方面的能力非常有限，這一點已經很明顯。特別是人工智慧支援的深度偽造是 TikTok 上一個日益嚴重的問題，而其他社交媒體網路已經能夠更有效地監控這個問題。
它建立選舉中心、禁止深度偽造和標記虛假資訊的努力值得歡迎，但這些努力是被動的並且來得太晚，當時一些州的初選投票已經開始。例如，即使在 2022 年 8 月宣佈新改革之後，一份報告發現“該平臺自動推薦的影片中，幾乎五分之一包含虛假資訊”。現在 TikTok 已成為全球第二受歡迎的域名，僅次於 Google，其不斷擴大的影響力和影響力突顯了 TikTok 需要主動領導，以更好地監管其內容的完整性。
YouTube：C+
谷歌已宣佈採取新措施，打擊其平臺（包括 YouTube）上的虛假資訊，例如突出本地和區域新聞報道，但正如我們在巴西選舉中看到的“停止竊選”敘事一樣，到目前為止，虛假資訊仍在自由傳播。
本文最初發表於 The Conversation。閱讀原文。
編輯注（2022 年 10 月 26 日）：我們在 The Conversation 的合作伙伴在釋出本文後對其進行了修訂，以提供來自 TikTok 搜尋完成功能的不同示例以及關於持續存在的虛假資訊問題的更多證據。此外，更新澄清了 Twitter 並非第一個禁止政治廣告的社交媒體平臺。修訂後的文字還明確指出，當 TikTok 建立其選舉中心時，初選投票正在進行中。