基督城清真寺槍擊事件，造成51人死亡，49人受傷，無論從哪個角度衡量，都是一場現代恐怖事件——從100名受害者的痛苦和煎熬，到他們數百名家人和朋友的悲痛，再到這座受傷的城市和國家的悲傷和憤怒的呼喊。現在，喬治·華盛頓大學研究員尼爾·約翰遜和他的同事在一篇新論文中指出，如果說這一切還不夠噩夢的話，那麼從其細節的總和來看，基督城大屠殺就成為了他們所稱的“線上仇恨生態”的邊界挑戰複雜性的縮影，這種全球網路將新納粹分子、白人至上主義者和其他極端分子群體聯絡起來。
約翰遜和他的同事在論文中解釋說，在本案中，被指控襲擊的男子是澳大利亞人，槍擊事件發生在 न्यूजीलैंड，槍支上覆蓋著“幾種歐洲語言的資訊，內容是各大洲線上仇恨叢集中提到的歷史話題”。這些話題包括歐洲人在歷史上擊敗伊斯蘭勢力的事件。
此外，槍手在臉書上直播了對兩座目標清真寺中第一座的襲擊。不到五個月後的8月3日，就在22人被殺、20多人受傷的德克薩斯州埃爾帕索沃爾瑪槍擊案發生前不久，被指控在該案中犯有謀殺罪的男子據信在網上釋出了一份宣告，開頭是“總的來說，我支援基督城槍擊案槍手及其宣言。”
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和想法的具有影響力的故事的未來。
正如這一連串的聯絡所表明的那樣，約翰遜說，透過滑鼠點選就能在世界各地傳播仇恨的“網路之網路”，以及能夠滋養像基督城和埃爾帕索槍手這樣的殺人兇手的“網路之網路”，超越了身體和精神障礙。“它們跨越大陸，跨越文化，跨越語言，”他說。“我們看到西班牙的‘佛朗哥民族主義者’與北歐國家的‘雅利安婦女愛好者’聯絡在一起，然後立即轉向弗吉尼亞州，在那裡他們談論的是民兵組織。”
在發表於《自然》雜誌本週新刊的論文中，研究現實世界系統複雜性的物理學教授約翰遜和他的團隊解釋了為什麼破壞和瓦解這種網路如此困難。他們描述了這些群體為阻止識別和驅逐他們的努力而使用的“集體線上適應”。
研究人員寫道，使用公共資料，他們能夠觀察到這些網路“在受到攻擊時，在微觀層面迅速重新佈線和自我修復”。例如，在2018年2月佛羅里達州帕克蘭高中槍擊事件發生後，“VKontakte（俄羅斯社交媒體平臺）上的[三K黨]生態”發生了重大的自發重組（舊的群體間聯絡被打破，新的聯絡形成），這顯然是對有關被指控的槍手對三K黨感興趣的新聞報道的保護性回應。
哈佛大學伯克曼克萊因網際網路與社會中心的研究員、危險言論專案創始人兼主任蘇珊·貝內施說：“這是一篇有趣的反傳統論文。”。“作者試圖發現刪除帖子或帳戶的後果，這本身就是一種貢獻，因為人們常常想當然地認為刪除是對不良內容最有效的回應——但沒有證據。”
除了描述線上仇恨群體在受到臉書和其他社交媒體平臺攻擊時的達爾文式韌性外，研究人員還根據他們的數學模型提出了具體的干預措施，他們寫道，這些措施“可以幫助擊敗線上仇恨”。他們認為，在一個平臺上（如臉書）監管仇恨實際上可能會“使情況變得更糟”。
為了說明後一點，約翰遜用了一個草坪護理的比喻：“如果你的街區有蟲害問題，而你只專注於你自己的院子，你可能會在根除你院子裡的東西方面做得非常好，”他說。“但在某種意義上，你已經加強了你院子外面的東西，因為你把它推回去了。而且你已經迫使它集中在你院子的邊界，你的控制邊界。”
該論文描述了在臉書禁止三K黨群體，以及烏克蘭政府隨後禁止VKontakte後，烏克蘭三K黨群體叢集如何遷移到臉書，並用西裡爾字母寫下“三K黨”，使得英語演算法更難檢測到他們。約翰遜稱這種適應型別為“仇恨叢集轉世”。研究還表明，各個平臺之間缺乏協調的監管可能會導致孤立的線上“暗池”的產生，仇恨可以在監管較少的平臺上滋生。
為了對抗仇恨群體適應攻擊的能力，該論文首先提出，由於大型群體和叢集是由小型群體形成的，社交媒體平臺應針對較小的群體（這些群體數量更多，更容易找到），以防止大型群體的形成。該研究中的第二個類似建議是建議隨機禁止“線上仇恨人群中的一小部分個人使用者”，而不是禁止著名的仇恨群體領導人。正如約翰遜解釋的那樣，這種方法不僅避免了製造烈士，還可以嚴重削弱一個群體。“我們的模型表明，隨機禁止10%的個人可以導致全球仇恨網路規模縮小多達50%，”他說。
研究人員的第三項政策建議包括平臺管理者建立人工反仇恨賬戶，以幫助此類群體找到彼此，並鼓勵形成反仇恨叢集，以中和致力於仇恨的叢集。他們的第四項建議旨在利用仇恨群體內部的內訌，引入第三類使用者來煽動特定群體內部的不和。
貝內施就網際網路平臺建立人工反仇恨賬戶（她推測是機器人）的建議提出質疑，目的是產生可以中和仇恨叢集的真實賬戶叢集。“我想知道中和將如何運作，”她說，“因為我自己的研究表明，讓仇恨賬戶接觸反仇恨材料並不會自動中和它們，反而只會加深它們對仇恨的執著。”
約翰遜認為他和他的同事提出的策略是比更具壓迫性的奧威爾式選擇更“有機的”替代方案。“消除仇恨的最簡單方法就是關閉所有網路，”他說。“但這種自上而下的方法在認知方面是有代價的。因此，我們希望探索自下而上的方法。”
約翰遜承認，這些方法可能看起來超出了科技公司願意做的範圍。但他說，如果這些方法被證明是有效的，它們可能會為公司節省數百萬美元的監管成本，更不用說如果發現它們違反了更多國家正在透過的仇恨言論法，它們將面臨鉅額罰款。“這就像不得不購買越來越多的東西來處理雜草，”約翰遜說，又回到了他的草坪護理比喻。“所以如果我能有機地做到這一點，可能會更便宜。”