您可能已經看過表明並非如此的照片，但前總統唐納德·特朗普 上週沒有被捕，教皇 沒有穿 一件時尚的亮白色羽絨服。這些最近爆紅的圖片是人工智慧系統的成果，這些系統處理使用者的文字提示以建立影像。它們展示了這些程式在短時間內變得多麼出色，並且現在已經足夠令人信服，可以欺騙不知情的觀察者。
那麼，持懷疑態度的觀眾如何發現可能是由 人工智慧 系統（如 DALL-E、Midjourney 或 Stable Diffusion）生成的影像？每個 AI 影像生成器以及來自任何給定生成器的每個影像，在它可能有多麼令人信服以及哪些蛛絲馬跡可能會洩露其演算法方面有所不同。例如，AI 系統在歷史上一直難以模仿人手，並且產生了具有過多手指的殘缺肢體。然而，隨著技術的進步，Midjourney V5 等系統似乎已經 解決了這個問題——至少在某些示例中是這樣。專家們一致認為，來自最佳生成器的最佳影像即使不是不可能，也很難與真實影像區分開來。
賓夕法尼亞州立大學研究媒體技術心理影響的研究員 S. Shyam Sundar 說：“就 AI 影像生成器能夠做到的事情而言，這非常令人驚歎。” “在影像生成能力方面，過去一年左右發生了巨大的飛躍。”
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
Sundar 指出，這種能力飛躍背後的一些因素包括可用於訓練此類 AI 系統的影像數量不斷增加，以及資料處理基礎設施和 使普通網際網路使用者可以訪問該技術的介面 的進步。結果是，人工智慧生成的影像無處不在，並且可能“幾乎不可能檢測到”，他說。
最近的一項實驗突顯了 AI 欺騙能力之強。英國蘭卡斯特大學專注於數字技術的心理學家 Sophie Nightingale 與人合著了一項研究，該研究 測試了線上志願者是否可以區分 由名為 StyleGAN2 的 AI 系統建立的類似護照的頭像和真實影像。即使在 2021 年底研究人員進行實驗時，結果也令人沮喪。“平均而言，人們的表現幾乎完全是碰運氣，”Nightingale 說。“基本上，我們已經到了非常逼真的地步，以至於人們無法可靠地感知到這些合成面孔與真實、真實的面孔——真正存在的人的臉龐之間的差異。” 儘管人類為 AI 提供了一些幫助（研究人員篩選了 StyleGAN2 生成的影像，僅選擇最逼真的影像），但 Nightingale 表示，想要出於不正當目的使用此類程式的人也可能會這樣做。
在第二次測試中，研究人員試圖幫助測試物件提高他們的 AI 檢測能力。他們在參與者回答後標記了每個答案的對錯，並且還透過讓他們通讀 檢測人工智慧生成影像的建議 來提前為參與者做好準備。該建議強調了 AI 演算法經常出錯併產生不匹配的耳環，或者將人的牙齒模糊在一起的區域。Nightingale 還指出，演算法通常難以建立比純色背景更復雜的東西。但即使添加了這些內容，參與者的準確率也僅提高了約 10%，她說——而且用於試驗中生成影像的 AI 系統此後已升級到新的改進版本。
具有諷刺意味的是，隨著影像生成技術的不斷改進，人類避免被 AI 系統愚弄的最佳防禦措施可能是另一種 AI 系統：一種 經過訓練可以檢測人工影像 的系統。專家表示，隨著 AI 影像生成技術的發展，演算法比人類更能夠檢測到機器人創作的一些微小的畫素級指紋。
威斯康星大學麥迪遜分校的計算機科學家 Yong Jae Lee 說，建立這些 AI 偵探程式的工作方式與任何其他機器學習任務相同。“您收集真實影像的資料集，並且還收集 AI 生成影像的資料集，”Lee 說。“然後，您可以訓練機器學習模型來區分這兩者。”
儘管如此，Lee 和其他專家表示，這些系統仍存在重大缺陷。大多數此類演算法都使用來自特定 AI 生成器的影像進行訓練，並且無法識別由不同演算法生成的偽造品。（Lee 說，他和他的研究團隊正在研究一種方法來避免這個問題，方法是訓練檢測器來識別使影像真實的原因。）大多數檢測器也缺乏使用者友好的介面，而正是這些介面吸引了許多人嘗試生成式 AI 系統。
此外，AI 檢測器將始終在努力跟上 AI 影像生成器的步伐，其中一些生成器結合了類似的檢測演算法，但將其用作學習如何使其偽造輸出更難以檢測的一種方式。“生成影像的 AI 系統與檢測 AI 生成影像的 AI 系統之間的戰鬥將是一場軍備競賽，”南加州大學計算機科學研究副教授 Wael AbdAlmageed 說。“我看不出任何一方會在短期內獲勝。”
AbdAlmageed 說，沒有任何方法能夠捕捉到每一張人工智慧生成的影像，但這並不意味著我們應該放棄。他建議社交媒體平臺需要開始在其網站上處理 AI 生成的內容，因為這些公司比個人使用者更有能力實施檢測演算法。
使用者需要更加懷疑地評估視覺資訊，並在分享之前詢問它是虛假的、AI 生成的還是有害的。“我們人類物種在某種程度上是在認為眼見為實的環境中長大的，”AbdAlmageed 說。“現在情況並非如此了。眼見不再為實。”