米尼翁·扎庫加以繪製書籍封面和為影片遊戲創作藝術為生。但在過去一年裡，她眼睜睜地看著多位潛在客戶從她的候補名單中消失，轉而使用人工智慧生成的影像——這些影像通常與她自己的黑暗而空靈的繪畫風格相似。“第一次發生時，我感到非常沮喪，”她說。“感覺不好。” 雖然扎庫加仍然能夠勉強維持生計，但她擔心剛剛入行的年輕藝術家。“這可能會奪走許多新興藝術家的未來，”她說。
生成式人工智慧工具是在大量資料上訓練的，包括受版權保護的影像和文字。在未來幾年，世界各地的法院將開始裁決這種行為是否以及何時侵犯了版權法。與此同時，藝術家們一直在爭先恐後地自行保護他們的作品。扎庫加在數字“隱身”工具中找到了一絲安慰，例如 Glaze 和 Nightshade，這些工具能夠擾亂人工智慧模型“看到”影像的方式——但對人眼來說，影像看起來幾乎沒有變化。每種隱身工具都有其自身的優勢和侷限性。雖然使用這些工具讓像扎庫加這樣的藝術家獲得了一些急需的安心，但專家警告說，這些工具並非保護生計的長期解決方案。
2022 年，芝加哥大學的計算機科學家本·趙和希瑟·鄭開始收到來自擔憂的藝術家的電子郵件，他們希望保護自己的作品。兩人之前建立了一個名為 Fawkes 的工具，可以修改照片以阻止面部識別人工智慧，藝術家們想知道該工具是否可以保護他們的風格免受影像生成模型（如 Stable Diffusion 或 Midjourney）的侵害。最初的答案是否定的，但研究人員很快開始開發兩種新工具——Glaze 和 Nightshade——試圖保護藝術家的作品。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保未來有關塑造我們當今世界的發現和思想的具有影響力的故事能夠繼續存在。
這兩個程式都以細微而系統的方式改變影像的畫素，這對人類來說是難以察覺的，但對人工智慧模型來說卻是令人困惑的。紐約大學計算機科學家邁卡·戈德布魯姆說，就像欺騙人眼的視錯覺一樣，微小的視覺調整可以完全改變人工智慧感知影像的方式。他開發了類似的隱身工具，但沒有參與建立 Glaze 或 Nightshade。
這些工具利用了人工智慧模型底層架構中的漏洞。影像生成人工智慧系統在大量的影像和描述性文字上進行訓練，從中學習將某些詞語與視覺特徵（如形狀和顏色）聯絡起來。這些神秘的關聯被繪製在巨大的、多維的內部“地圖”中，相關的概念和特徵彼此靠近地聚集在一起。這些模型使用這些地圖作為指南，將文字提示轉換為新生成的影像。
Glaze 和 Nightshade 都建立了會擾亂這些內部地圖的影像，使某些不相關的概念看起來彼此接近。為了構建這些程式，研究人員使用了“特徵提取器”——分析程式，可以簡化這些超複雜的地圖，並顯示生成模型將哪些概念歸為一類，又將哪些概念分開。研究人員利用這些知識構建演算法，以微小但有針對性的方式修改訓練影像；這透過在模型中建立不正確的關聯來混淆概念的放置。
在 Glaze 中，這些更改旨在掩蓋藝術家的個人風格。鄭解釋說，這可以防止模型被訓練來模仿創作者的作品。如果在訓練中輸入“Glazed”影像，人工智慧模型可能會將藝術家的活潑卡通插畫風格解釋為更像畢加索的立體主義。用於訓練潛在的模仿模型的 Glazed 影像越多，人工智慧的輸出就會越混亂。其他工具，如Mist，也旨在保護藝術家獨特的風格免受人工智慧的模仿，其工作原理類似。
Nightshade 更進一步，破壞了現有的生成式人工智慧模型。這種隱身工具將潛在的訓練影像變成“毒藥”，教會人工智慧錯誤地關聯基本思想和影像。僅需數百張經過 Nightshade 處理的影像即可重新訓練生成式人工智慧模型，使其認為例如貓是狗，或者帽子是蛋糕。趙說，已經有成千上萬的人下載並開始部署 Nightshade，以汙染人工智慧訓練影像庫。
透過干擾生成式人工智慧模型的齒輪，Nightshade 可能會使開發人員的訓練過程變慢或成本更高。趙說，從理論上講，這可能會激勵人工智慧公司透過官方渠道支付影像使用權，而不是投入時間清理和過濾從網路上抓取的未經許可的訓練資料。
扎庫加註冊參與了 Glaze 和 Nightshade 的 Beta 測試，她仍然經常使用這些工具。根據趙的建議，她先將自己的每件藝術作品透過 Nightshade 處理，然後再透過 Glaze 處理，然後再將影像檔案上傳到網際網路。
扎庫加說，不幸的是，隱身處理單張影像可能需要數小時。而且這些工具只能幫助藝術家保護新作品。如果影像已經被吸收到人工智慧訓練資料集，那麼就無法再進行隱身處理了。
此外，儘管這些工具旨在進行人眼看不見的更改，但有時它們實際上是可察覺的——尤其是對於創作作品的藝術家而言。“這不是我最喜歡的事情，”扎庫加說，但這是“必要的犧牲”。鄭說，她和她的同事仍在努力尋找破壞和保持影像完整性之間的理想平衡。
更關鍵的是，不能保證隱身工具能長期有效。“這些不是面向未來的工具，”安大略省滑鐵盧大學計算機科學助理教授高塔姆·卡馬斯說。至少有一項其他學術機器學習研究人員的嘗試成功地部分破壞了 Glaze 隱身效果，趙說。趙認為 Glaze 目前很堅固，但戈德布魯姆指出，未來人工智慧模型的更改可能會使隱身方法過時，尤其是當開發人員建立更類似於人腦的模型時。
趙說，數字安全“始終是一場貓捉老鼠的遊戲”。他和鄭希望其他研究人員能夠開發出互補的策略，共同加強保護。“Nightshade 的重要意義在於，我們證明了藝術家不必無能為力，”鄭說。
目前，卡馬斯建議藝術家也可以考慮使用其他數字工具，例如 Kudduru，它可以檢測網路爬蟲並阻止它們訪問網站上的影像。但正如影像隱身有弱點一樣，這些攔截器也並非總是能成功對抗大型抓取操作，趙指出。藝術家還可以將他們的作品放在付費牆或登入頁面後面，以防止網路抓取，但這會限制他們的潛在受眾。
趙、鄭和卡馬斯都認為，為了真正長期保護藝術家的生計，澄清版權法以及制定保護創意作品的新立法將是必要的。
與此同時，扎庫加將盡可能長時間地繼續使用 Glaze 和 Nightshade。“這是我們現在擁有的最佳解決方案，”她說。