長期以來，線上影片一直是伊拉克和敘利亞伊斯蘭國 (ISIS) 以及基地組織和其他恐怖組織的重要招募和宣傳工具。這些影片製作成本低廉，並且易於透過 YouTube、Facebook、Twitter 和其他社交網路傳播。面對嚴厲批評，這些公司去年聲稱要加大力度，利用人工員工和人工智慧軟體來查詢和刪除宣傳暴力的影片。
一個監測恐怖組織及其支持者的非政府組織週二釋出的一項研究表明，特別是 YouTube 在阻止上傳的極端主義內容氾濫方面取得了進展。但是，反極端主義專案 (CEP) 也指出，恐怖分子仍然在谷歌的影片分享網路上找到了大量受眾。根據 CEP 的資料，ISIS 成員和支持者在 3 月至 6 月期間上傳了 1,348 個 YouTube 影片，獲得了 163,391 次觀看。“觀看這些影片的眼睛很多，”CEP 高階顧問兼該研究的主要研究員哈尼·法裡德說。這些影片中有 24% 在 YouTube 上保留了至少兩個小時——足夠長的時間在 Facebook、Twitter 和其他流行的社交平臺上覆制和傳播，即使 YouTube 可以找到並刪除它們。
CEP 跟蹤的影片由 278 個不同的帳戶釋出，其中 60% 的帳戶在影片被 YouTube 刪除後仍被允許留在平臺上。“令人沮喪的是，即使在帳戶因釋出恐怖主義材料而被刪除影片（因為違反了 YouTube 的服務條款）後，仍被允許繼續上傳影片，”同時也是達特茅斯學院計算機科學教授的法裡德說。“我們知道這些影片是出於宣傳目的而製作的，目的是煽動和鼓勵暴力，而且我發現這些影片以非常真實的方式很危險。”
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
為了進行這項研究，CEP 使用了 183 個經常與 ISIS 相關的關鍵詞搜尋 YouTube。這些關鍵詞包括阿拉伯語中“十字軍”和“聖戰”的詞，以及 ISIS 控制的省份、媒體和著名宣傳者的名稱。在研究的三個月期間，CEP 的軟體每 20 分鐘搜尋一次 YouTube，然後使用 CEP 的影片識別系統（稱為 eGLYPH）將搜尋結果與 CEP 自身資料庫中 229 個已知的恐怖主義影片進行比較。法裡德說，eGLYPH 演算法“將影片提煉成精華”，分析幀之間何時發生重大變化——新人進入畫面，或者相機搖攝以聚焦於新事物。透過該分析，eGLYPH 建立一個獨特的簽名——稱為“雜湊”——以識別整個影片或其中的特定場景。法裡德設計該演算法是為了查詢特定影片，即使該影片在共享時已被編輯、複製或以其他方式更改。
多年來，CEP 一直批評社交媒體公司在阻止極端主義內容（包括斬首、爆炸和暴力呼籲影片）離開其平臺方面做得不夠。儘管如此，法裡德表示，CEP 的研究表明，這些公司正在取得進展。YouTube 在兩小時內刪除大多數極端主義影片的能力意味著“顯然谷歌正在對其平臺上釋出的恐怖主義相關內容的數量採取一些措施，”法裡德說。“我感到鼓舞，因為他們已經從不承認問題轉變為積極追求解決問題。”
許多社交媒體公司——包括谷歌、Facebook、微軟和 Twitter——採用了類似於 eGLYPH 的“指紋識別”方法，作為他們於 2017 年 6 月啟動的全球網際網路反恐論壇 (GIFCT) 的一部分。Instagram、LinkedIn、Snap 和其他公司此後也加入了該聯盟，該聯盟現在有 13 家公司。他們建立了一個共享的恐怖主義影片雜湊資料庫，任何 GIFCT 成員都可以訪問該資料庫，並將其與釋出到其網站的影片的雜湊進行比較。GIFCT 聲稱，到 2018 年底，該資料庫將包含 100,000 個雜湊。Facebook 發言人表示，每家公司在決定是否刪除內容時，都會應用自己的政策和恐怖主義材料定義（當它找到與共享雜湊匹配的內容時）。Facebook 聲稱，由於照片和影片匹配軟體以及人工監控的結合，它在使用者舉報之前就找到了並刪除了 99% 的 ISIS 和基地組織相關內容。谷歌在 GIFCT 網站上聲稱 98% 的 YouTube 影片因暴力極端主義內容而被刪除是由該公司的人工智慧軟體識別的，但該公司沒有回應大眾科學的採訪請求。
仍然有很多影片設法溜過漏洞並進入社交媒體，原因有很多，包括：上傳內容的龐大數量；恐怖分子偽裝其帖子性質的能力；以及最近使用指向基本上不受監控的工具（例如 Google Drive）的連結來傳播影片片段的努力。YouTube 是世界訪問量第二大的網站，僅次於谷歌——每分鐘接收300 小時的上傳影片。SITE 情報集團是一家位於華盛頓的非政府組織，負責跟蹤全球恐怖網路。該組織執行主任 Rita Katz 表示，恐怖組織經常將 YouTube 影片作為“未列出”的影片上傳，這意味著這些影片無法搜尋，只有當潛在觀看者獲得連結時才能訪問。
喬治華盛頓大學極端主義專案副主任 西姆斯·休斯 表示，儘管出現了用於分享影片內容的新應用程式和網站，但 YouTube、Facebook、Twitter 和其他大型社交媒體平臺仍然是最重要的監控物件，因為在那裡，有抱負的恐怖分子可以“首次嚐到 ISIS 宣傳、意識形態和敘事的滋味”。休斯說，這些公司正在提高他們查詢新發布內容的能力，但在過去十年中採取了基本上不干預的方式之後，他們仍然有很多舊影片需要清理。