對於泰勒·斯威夫特來說，2023 年的最後幾個月是輝煌的。她的時代巡迴演唱會被評為有史以來票房最高的演唱會巡演。她首次推出了一部同名演唱會電影，為該型別注入了新的活力。最後，《時代》雜誌提名她為年度人物。
但在一月下旬，這位巨星卻因一個遠不那麼令人振奮的原因成為頭條新聞：她成為最新一位性暴露、非自願 deepfake 影像（使用人工智慧製作）的高調目標。斯威夫特的粉絲迅速舉報了這些侵犯性內容，因為它在包括 X（前身為 Twitter）在內的社交媒體平臺上傳播，X 暫時遮蔽了對斯威夫特名字的搜尋。這絕非首例——全球各地的婦女和女孩早已面臨類似的虐待。然而，斯威夫特的聲望幫助這個問題進入了公眾視野，並且該事件放大了要求立法者介入的呼聲。
喬治華盛頓大學法學院教授兼網路公民權利倡議組織主席瑪麗·安妮·弗蘭克斯說：“在這一點上，我們做得太少、太遲了，但我們仍然可以嘗試減輕正在出現的災難。”她補充說，在人工智慧濫用方面，女性是“煤礦裡的金絲雀”。“這不僅僅是 14 歲的女孩或泰勒·斯威夫特。還會是政治家。還會是世界領導人。還會是選舉。”
支援科學新聞事業
如果您喜歡這篇文章，請考慮
訂閱以支援我們屢獲殊榮的新聞事業。透過購買訂閱，您將幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事能夠繼續被報道。
弗蘭克斯說，最近成為億萬富翁的斯威夫特或許能夠透過個人訴訟取得一些進展。（斯威夫特的唱片公司未回覆關於這位藝術家是否將提起訴訟或支援打擊 deepfake 的努力的置評請求。）然而，這位法學教授補充說，真正需要的是專門禁止此類內容的法規。“如果多年前，當倡導者說這種技術註定會發生這種情況時，就通過了立法，我們可能就不會處於這種境地，”弗蘭克斯說。她指出，一項這樣的法案，即眾議員喬·莫雷勒於去年五月提出的《防止私密影像 Deepfake 法案》，可能會幫助與斯威夫特處境相同的受害者。如果該法案獲得透過成為法律，該立法將禁止共享非自願 deepfake 色情製品。參議院最近的另一項提案將允許 deepfake 受害者起訴此類內容的創作者和傳播者以索取賠償。
多年來，倡導者一直在呼籲制定政策解決方案來解決非自願 deepfake 問題。雖然存在一些州法律，但專家表示，聯邦監管仍然不足。Fried Frank 律師事務所人工智慧首席顧問阿米爾·加維說：“圍繞成人 deepfake 色情製品，適用的聯邦法律非常匱乏。”“在邊緣領域有一些法律，但總的來說，沒有直接針對 deepfake 的聯邦法規。”
然而，這位律師解釋說，聯邦的嚴厲打擊可能無法解決這個問題，因為一項將性 deepfake 定為犯罪的法律並不能解決一個大問題：該指控誰犯罪。“實際上，這些人不太可能自報家門，”加維說，並指出法證研究並不總是能證明是什麼軟體建立了給定的內容。即使執法部門能夠確定影像的來源，他們也可能會遇到所謂的第 230 條——這是一項規模雖小但影響極其深遠的立法，該立法規定網站不對其使用者釋出的內容負責。（然而，目前尚不清楚第 230 條是否適用於生成式人工智慧。）美國公民自由聯盟等**權組織已警告說，過於寬泛的法規也可能引發記者報道 deepfake 或政治諷刺作家使用 deepfake 時的第一修正案擔憂。
加州大學洛杉磯分校技術、法律和政策研究所執行主任邁克爾·卡拉尼科拉斯說，最簡潔的解決方案是採取政策，促進擁有生成式人工智慧產品的公司承擔“社會責任”。但他補充說，“公司通常只對強制性監管行為做出回應，這種情況相對普遍。”一些平臺已採取措施阻止人工智慧生成的有關競選活動的虛假資訊的傳播，因此它們介入並非史無前例，卡拉尼科拉斯說——但即使是技術保障也容易被老練的使用者繞過。
數字水印是一種可能的解決方案，它將人工智慧生成的內容標記為合成內容，並得到了拜登政府和一些國會議員的支援。Meta 最近宣佈，在未來幾個月內，Facebook、Instagram 和 Threads 將開始標記釋出到這些平臺的人工智慧製作的影像。即使標準化的水印製度無法阻止個人建立 deepfake，它仍然可以幫助社交媒體平臺刪除或減緩其傳播速度。一位經常為白宮和國會提供人工智慧監管建議的前政策制定者表示，以這種規模稽核網路內容是可能的，並指出社交媒體公司在限制受版權保護的媒體傳播方面取得了成功。這位要求匿名的顧問說：“減緩這種東西傳播的法律先例和技術先例都存在，因為圍繞 deepfake 的審議仍在進行中。”這位前政策制定者補充說，斯威夫特——一位擁有堪比某些總統的平臺公眾人物——或許能夠讓普通人開始關心這個問題。
然而，就目前而言，法律領域幾乎沒有明確的標誌，讓一些受害者感到被遺忘在寒冷之中。社交媒體影響者兼自稱“斯威夫特迷”的卡琳·瑪喬麗去年推出了自己的 AI 聊天機器人，她說她遇到了與斯威夫特類似的經歷。大約一個月前，瑪喬麗的粉絲向她舉報了網上流傳的她的性暴露、人工智慧生成的 deepfake。
這些 deepfake 讓瑪喬麗感到噁心；她難以入睡。但儘管她多次舉報釋出這些影像的帳戶，但該帳戶仍然線上。“我沒有得到與泰勒·斯威夫特相同的待遇，”瑪喬麗說。“這讓我懷疑：女性是否必須像泰勒·斯威夫特一樣出名，才能讓這些露骨的 AI 影像被刪除？”