以下文章經The Conversation許可轉載，The Conversation是一家報道最新研究的線上出版物。
2017 年 6 月，谷歌、Facebook、Twitter 和微軟宣佈成立全球網際網路反恐論壇 (GIFCT)。這項行業主導的倡議旨在阻止恐怖分子利用其服務。最近， GIFCT 成員稱讚了 其運營第一年的成就。但是，雖然必須承認這些進展，但仍然存在重大挑戰。
平均每分鐘，Facebook 上會分享 510,000 條評論和 136,000 張照片，Twitter 上會發布 350,000 條推文，YouTube 上會上傳 300 小時的影片。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將幫助確保有關塑造我們當今世界的發現和想法的影響深遠的故事的未來。
鑑於此，最大的公司 廣泛依賴人工智慧 (AI)。Facebook 對 AI 的使用 包括 影像匹配。這可以防止使用者上傳與先前被識別為恐怖主義的照片或影片相匹配的照片或影片。同樣， YouTube 報告稱 ，其刪除的暴力極端主義影片中，98% 也是由機器學習演算法標記的。
迄今為止的進展
社交媒體公司面臨的一個難題是，如果某個恐怖組織被某個平臺遮蔽，它可能會簡單地轉移到另一個平臺。為了應對這種情況，GIFCT 成員 建立了 一個共享的行業“雜湊”資料庫。“雜湊”是一種唯一的數字指紋，可用於跟蹤數字活動。當某個 GIFCT 成員刪除親恐怖主義內容時，其雜湊會與其他參與公司共享，以便他們能夠在自己的平臺上阻止該內容。
在最近的會議上，GIFCT 宣佈迄今為止已向資料庫添加了 88,000 個雜湊。因此，該聯盟有望實現到 2018 年底達到 100,000 個雜湊的目標。尤其是在另外九家公司 加入了該聯盟之後，包括 Instagram、Justpaste.it 和 LinkedIn。
這些努力無疑擾亂了恐怖分子對社交媒體平臺的使用。例如，自 2015 年 8 月 1 日以來的 23 個月中， Twitter 已暫停 了近一百萬個宣傳恐怖主義的帳戶。在 2017 年下半年， YouTube 刪除了 150,000 個暴力極端主義影片。其中近一半是在上傳後兩小時內刪除的。
未來的挑戰
然而，還有許多工作要做。為了應對 他們對 Twitter 的使用受到的干擾，所謂的伊斯蘭國 (IS) 的支持者試圖透過所謂的外部連結（使用指向其他平臺的連結）來規避內容阻止技術。有趣的是， 最常被外部連結到的 網站包括 justpaste.it、sendvid.com 和 archive.org。這似乎是一種利用小型公司缺乏資源和專業知識的蓄意策略。
IS 支持者還將他們的社群建設活動轉移到其他平臺，特別是 Telegram。Telegram 是一種基於雲的即時訊息服務，提供可選的端到端加密訊息。這種加密阻止第三方讀取訊息。它已被 廣泛使用 來共享官方 IS 頻道製作的內容。
這構成了向更隱蔽方法邁進的更廣泛運動的一部分。其他加密訊息服務，包括 WhatsApp，已被聖戰分子用於通訊和攻擊計劃。網站也被重新定位到 暗網。暗網是網際網路的一個隱藏部分，本質上是匿名的，只能使用專門的加密軟體訪問。一份 2018 年的報告 警告說，暗網平臺有可能充當聖戰分子的“虛擬安全港”。
此外， 最近的研究 發現，除 IS 之外的其他聖戰組織的支持者在 Twitter 上受到的干擾明顯較少。這些其他組織的支持者能夠釋出的推文數量是親 IS 帳戶的六倍，關注的帳戶數量是四倍，獲得的關注者數量是 13 倍。
回應其他形式的暴力極端主義也很重要。極右翼團體在 YouTube 和 Facebook 等平臺上也擁有重要的影響力。雖然已採取措施來阻止他們在網上的存在，例如 Facebook 決定 禁止 Britain First 進入其平臺，但 似乎 這些團體也開始遷移到暗網。
過度干預
正如存在觸及恐怖分子社交媒體的問題一樣，也存在與潛在的過度干預相關的挑戰。不能期望機器學習演算法以 100% 的準確率識別恐怖主義內容。某些內容會被錯誤地識別為恐怖主義內容而被阻止或刪除。但是這裡的挑戰不僅僅在於正確應用閾值。它們還關係到閾值最初應該劃定在哪裡。
定義恐怖主義的困難是眾所周知的。用口號“一個人的恐怖分子是另一個人的自由戰士”概括，最具爭議的定義問題之一是正當理由的問題。恐怖主義的定義是否應該排除那些在受壓迫和暴政政權統治的國家中的親民主活動家？包括英國在內的許多國家/地區認為答案是否定的。正如一位上訴法院法官 所說：“恐怖主義就是恐怖主義，無論肇事者的動機如何。”
如果社交媒體公司採取類似的方法，這可能會產生一些重大影響。事實上，已經有一些令人擔憂的例子。 2017 年，旨在打擊極端主義宣傳的新技術從 YouTube 上刪除了數千個記錄敘利亞暴行的影片。這些影片提供了侵犯人權的重要證據。有些影片僅存在於 YouTube 上，因為並非所有敘利亞活動家和媒體都能負擔得起離線存檔。然而，另一種選擇——試圖區分正義和非正義事業——本身也充滿了困難。
在社交媒體公司面臨 越來越大的壓力 以採取更多措施來應對恐怖分子利用其平臺之際，GIFCT 第一年取得的進展值得歡迎。但這僅僅是第一步。
本文最初發表於The Conversation。閱讀原文。