人工智慧或可利用模因傳遞秘密資訊

一種用於傳送隱藏資訊的新技術經數學證明可逃避檢測

Icebergs, eyeballs, and smart phone, illustrating idea of surveillance on mobile devices

加入我們的科學愛好者社群!

在一項可能使間諜和異議人士受益的進展中,計算機科學家開發出一種以極其隱蔽的方式交流機密資訊的方法,以至於對手甚至無法得知秘密正在被共享。研究人員表示,他們創造了首個演算法,該演算法可以將資訊隱藏在逼真的文字、影像或音訊中,並具有完美的安全性:外部觀察者無法發現訊息被嵌入。科學家們在最近的國際表徵學習會議上公佈了他們的研究成果

在眾目睽睽之下隱藏秘密的藝術被稱為隱寫術——與更常用的密碼學不同,密碼學隱藏的是訊息本身,而不是訊息正在被共享的事實。為了安全地隱藏他們的資訊,數字隱寫術師的目標是將資訊嵌入到在統計學上與正常通訊相同的單詞或影像字串中。不幸的是,人類生成的內容不夠可預測,無法實現這種完美的安全性。人工智慧使用定義更明確的規則生成文字和影像,這可能實現完全無法檢測到的秘密訊息。

牛津大學研究員克里斯蒂安·施羅德·德維特、卡內基梅隆大學研究員塞繆爾·索科塔及其同事使用人工智慧程式建立了看似無辜的聊天訊息,其中包含秘密內容。對於外部觀察者來說,該聊天與同一生成式人工智慧進行的任何其他通訊無法區分:“他們可能會檢測到存在人工智慧生成的內容,”施羅德·德維特說,“但他們無法判斷您是否已將秘密資訊編碼到其中。”


關於支援科學新聞報道

如果您喜歡這篇文章,請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱,您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。


為了實現這種偽裝,研究人員開發了一種演算法,以最佳方式將秘密訊息與一系列要在聊天中傳送的模因(或文字)進行匹配,從而根據上下文動態選擇內容。他們的重大進步在於他們的演算法當場選擇理想的“耦合分佈”的方式——一種將秘密位與無害內容(例如,貓模因)匹配的方法,該方法在保留兩者正確分佈的同時,使它們儘可能地相互依賴。這種方法在計算上非常困難,但該團隊採用了最近的資訊理論進展,以快速找到接近最優的選擇。收到訊息的接收者可以反轉相同的操作以揭示秘密文字。

研究人員表示,隨著類人生成式人工智慧變得越來越普遍,這項技術具有巨大的潛力。萊頓大學學習與創新中心的隱私和保護負責人喬安娜·範德梅爾韋表示贊同。“我想到的用例是在專制政權下記錄侵犯人權的行為,以及資訊環境受到高度限制、秘密和壓迫的地方,”範德梅爾韋說。該技術並沒有克服此類場景中的所有挑戰,但它是一個很好的工具,她補充道:“工具箱中的工具越多越好。”

© .