和許多人一樣，在過去一年裡，我使用 Twitter，或者說 X，的頻率越來越低。這並非出於單一原因：這個系統只是變得不那麼有用和有趣了。但是，當最近以色列襲擊事件的可怕訊息傳來時，我轉向 X 尋求資訊。然而，我看到的不是來自記者的新聞更新（這通常是我在突發新聞事件中看到的內容），而是駭人聽聞的襲擊現場圖片，這些圖片既殘忍又令人恐懼。我不是唯一一個；其中一些帖子獲得了數百萬的瀏覽量，並被成千上萬的人分享。
這不是一次糟糕的內容稽核的醜陋事件。這是對社交媒體的戰略性利用，以放大恐怖襲擊的影響，而這種利用之所以成為可能，是因為產品設計不安全。X 的這種濫用之所以會發生，是因為在過去一年中，埃隆·馬斯克系統性地拆除了許多保障 Twitter 使用者安全的系統，並解僱了平臺上幾乎所有從事信任和安全工作的人員。以色列和加沙的事件提醒我們，社交媒體首先是一種消費品。而且，與任何其他大眾消費品一樣，使用它也存在很大的風險。
當您乘坐汽車時，您期望它具有正常工作的剎車。當您在藥房取藥時，您期望它不會被汙染。但情況並非一直如此。汽車、藥品和許多其他產品的安全性在剛上市時非常糟糕。人們花費了大量的研究、訴訟和監管才弄清楚如何在享受這些產品益處的同時避免傷害。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
像汽車和藥品一樣，社交媒體需要產品安全標準來保障使用者安全。我們仍然沒有關於如何建立這些標準的全部答案，這就是為什麼社交媒體公司必須與公眾分享更多關於其演算法和平臺的資訊。兩黨合作的平臺問責和透明法案將為使用者提供他們現在需要的資訊，以便就他們使用的社交媒體產品做出最明智的決定，並讓研究人員開始著手研究這些產品安全標準可能是什麼樣的。
社交媒體的風險不僅限於放大的恐怖主義。旨在最大化關注度的演算法對青少年，特別是對大腦仍在發育的女孩造成的危險已經變得不容忽視。其他產品設計元素，通常被稱為“黑暗模式”，旨在讓人們使用更長時間，似乎也促使年輕使用者過度使用社交媒體，這與飲食失調和自殺意念有關。這就是為什麼 41 個州和哥倫比亞特區正在起訴 Meta，即 Facebook 和 Instagram 背後的公司。針對該公司的訴訟指控其從事“利用年輕使用者牟利的計劃”，並構建產品功能以讓孩子們更長時間地登入其平臺，同時明知這對他們的心理健康有害。
每當受到批評時，網際網路平臺都會將責任推卸給使用者。他們說這是使用者自己的錯，因為他們首先接觸了有害內容，即使這些使用者是兒童或內容是金融詐騙。他們還聲稱自己是在捍衛言論自由。誠然，世界各地的政府命令平臺刪除內容，一些專制政權濫用了這一程式。但我們目前面臨的問題實際上與內容稽核無關。X 的政策已經禁止暴力恐怖主義影像。內容之所以被廣泛看到，僅僅是因為馬斯克撤走了阻止恐怖分子利用該平臺的人員和系統。Meta 被起訴不是因為其使用者釋出的內容，而是因為其在據稱明知產品設計對使用者有害的情況下做出的產品設計決策。平臺已經擁有刪除暴力或有害內容的系統。但如果他們的資訊流演算法推薦內容的速度快於其安全系統刪除內容的速度，那僅僅是不安全的設計。
迫切需要更多的研究，但有些事情正變得清晰起來。諸如自動播放影片和無盡的資訊流等黑暗模式對兒童尤其危險，因為他們的大腦尚未發育成熟，並且常常缺乏將手機放下的心理成熟度。基於參與度的推薦演算法不成比例地推薦極端內容。
在世界其他地方，當局已經在採取措施，要求社交媒體平臺對其內容負責。10 月，歐盟委員會要求 X 提供資訊，內容涉及恐怖主義和暴力內容以及仇恨言論在該平臺上的傳播。根據今年在歐洲生效的《數字服務法案》，平臺有義務採取行動阻止非法內容的傳播，如果他們不這樣做，可能會被處以高達其全球收入 6% 的罰款。如果這項法律得到執行，維護其演算法和網路的安全性將成為平臺最明智的財務決策，因為僅靠道德似乎並沒有產生太大的動力。
在美國，法律圖景更加模糊。針對 Facebook 和 Instagram 的案件可能需要數年才能透過我們的法院審理。然而，國會現在可以做一些事情：透過兩黨合作的平臺問責和透明法案。該法案最終將要求平臺披露更多關於其產品如何運作的資訊，以便使用者可以做出更明智的決定。此外，研究人員可以開始著手進行使社交媒體對所有人更安全所需的工作。
兩件事是明確的：首先，線上安全問題正在導致真實的線下痛苦。其次，社交媒體公司不能或不願獨自解決這些安全問題。而且這些問題不會消失。正如 X 向我們展示的那樣，即使是我們認為已經解決的恐怖主義放大等安全問題也可能再次出現。隨著我們的社會在更大程度上轉向線上，任何人，甚至是青少年，都可以“遠離社交媒體”的想法變得越來越不現實。現在是我們要求社交媒體認真對待安全問題的時候了，為了每個人的利益。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表 大眾科學 的觀點。