俄羅斯入侵烏克蘭幾天後，包括 Facebook、Twitter 和 YouTube 在內的多個社交媒體平臺宣佈，他們已經解散了旨在傳播虛假資訊的協調賬戶網路。這些網路由偽造賬戶組成，這些賬戶偽裝成虛假姓名和人工智慧生成的個人資料圖片或被駭客入侵的賬戶，它們分享了可疑的、類似的、反烏克蘭的論點，表明它們受到與俄羅斯和白俄羅斯有關聯的中心化來源的控制。
俄羅斯的網際網路研究所使用了類似的虛假資訊宣傳活動，以放大關於 2016 年美國大選的宣傳。但在選舉後，他們的程度才變得清晰，而且當時，他們幾乎沒有受到社交媒體平臺的抵制。“當時人們感覺這些平臺只是不知道該怎麼做，”虛假資訊研究員、紐約大學計算機科學博士候選人勞拉·埃德爾森說。她說，從那時起，平臺和政府在打擊此類資訊戰方面變得更加熟練，也更願意取消故意傳播虛假資訊的不良行為者的平臺資格。埃德爾森與《大眾科學》談到了隨著衝突的持續，資訊戰是如何進行的。
[以下是採訪的編輯稿。]
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保未來能夠繼續講述關於塑造我們當今世界的發現和想法的具有影響力的故事。
社交媒體平臺如何打擊傳播虛假資訊的賬戶？
這些型別的虛假資訊宣傳活動——它們專門誤導使用者關於內容的來源——平臺很容易對其採取行動，因為 Facebook 有這項實名政策：誤導使用者關於你是誰，這違反了 Facebook 的平臺規則。但是還有[其他]一些事情應該不難取締——但歷史上 Facebook 一直在努力解決——那就是像 RT 這樣的行為者。RT 是一家俄羅斯國家支援的媒體。歷史上，Facebook 一直在努力解決如何處理這個問題。這就是看到 [Facebook 和其他平臺] 真的開始在上週對 RT 採取一些行動如此令人印象深刻的原因，因為這種情況已經持續了很長時間。坦率地說，[社交媒體平臺] 也得到了政府的掩護，歐洲政府已經禁止了俄羅斯國家媒體。這為 Facebook、YouTube 和其他主要平臺採取同樣的行動提供了掩護。總的來說，禁止任何人——尤其是禁止媒體——都不是任何人應該輕易採取的步驟。但是 RT 和 Sputnik [另一家俄羅斯國家支援的媒體] 不是普通媒體：它們在汙染資訊空間方面有著悠久的歷史。
還可以做些什麼來打擊有害的虛假資訊？
美國在進入這場衝突時做得很好的一件事——以及為什麼至少從虛假資訊[控制]的角度來看，第一週進展順利的原因——是美國政府非常積極地釋出關於其所瞭解的俄羅斯和烏克蘭地面實際情況的資訊。這對於創造一個空間非常有幫助，在這個空間中，俄羅斯人很難釋出關於同樣事情的虛假資訊。因為美國政府非常坦誠，所以沒有留下太多空間；沒有俄羅斯人可以介入和填補的資訊真空。然後，烏克蘭政府在講述烏克蘭抵抗的故事方面非常精明。肯定有一些時候它越過了宣傳的界限。但總的來說，它確保世界看到烏克蘭的抵抗以及烏克蘭人民願意進行的戰鬥。這[幫助]人們看到正在發生的事情，並理解在那裡戰鬥的人是真人，他們在不久前還不是戰士。他們是平民，現在他們正在保衛自己的國家。
我認為這兩件事都很難長期維持下去。但如果它們沒有得到維持，那麼俄羅斯虛假資訊的視窗將會開啟。我們所有人將要處理的一個挑戰是，這場戰爭不會在未來幾天內結束，但新聞週期無法維持對這些事件的這種關注程度。說出來令人震驚，但在三週後，你會有幾個小時不去想它。那時人們的警惕性就會降低。如果有人試圖傳播某種[虛假資訊]——也許俄羅斯人編造了一些虛假的烏克蘭暴行或其他什麼——那時世界將很容易受到這種事情的影響。那時我們將不得不記住所有這些東西，“是誰在告訴你這個故事？我們信任他們嗎？這個敘述的可驗證性有多高？”這將成為未來衝突進行方式的一部分。但這對於所有參與者來說都是新鮮事物，每個人都將不得不習慣在資訊戰中保持地面戰力，而不僅僅是在動能戰中。
有些人還指出，自從俄羅斯的網際網路基礎設施和支付網路受到制裁限制以來，其他形式的虛假資訊有所減少，例如與疫苗相關的陰謀論。這是怎麼回事？
我還沒有看到關於此問題的大規模分析發表。也就是說，在過去一週，有很多軼事報告表明，其他領域的虛假資訊明顯減少。我們不能肯定地說這是因為俄羅斯缺乏網際網路接入。結論並非所有被刪除的東西都來自俄羅斯。從這些軼事報告中得出的合理結論是，俄羅斯的網際網路基礎設施是傳播虛假資訊的人員工具包的重要組成部分。這個經濟體的很多部分都是在俄羅斯境外運營的——例如，殭屍網路、買賣被盜信用卡資訊的網路、圍繞購買被盜[社交媒體]賬戶的很多經濟——因為俄羅斯歷來容忍很多網路犯罪。要麼它對此視而不見，要麼很多這些團體實際上直接為俄羅斯國家工作，或者是俄羅斯國家的承包商。
我們如何避免受騙或傳播虛假資訊？
底線是人們不應該做這些事。這有點像說，“我的汽車沒有安全帶。我該怎麼做才能在撞車事故中保護自己？”答案是：你的汽車應該有安全帶，這不應該是你的工作。但不幸的是，事實就是如此。有了這個小小的警告，你必須記住，最成功的虛假資訊是透過訴諸情感而不是理性來成功的。如果虛假資訊可以利用這種情感途徑，你就永遠不會質疑它，因為它感覺良好，如果它感覺良好，它就接近於真實。因此，我建議的第一件事是：如果某件事讓你感到情緒激動——尤其是如果某件事讓你感到憤怒——在你分享它或與之互動之前，真的要問自己一個問題，“是誰在推廣這個，我信任他們嗎？”
平臺需要做的最重要的事情是什麼來安裝隱喻的安全帶？
我認為平臺應該做的最重要的事情，尤其是在這些危機時刻，是[認識到它們]不應該僅僅根據參與度來推廣內容。因為你必須記住，虛假資訊真的很有吸引力。它之所以有吸引力，是因為我談到的一些原因：高度的情感吸引力，繞過理性而直接作用於直覺的東西。這是一種非常有效的欺騙策略。因此，我認為這是平臺需要提升內容質量相對於內容吸引力的重要性的時刻。這是他們可以做的最重要的事情，幾乎所有其他事情都相形見絀。