人工智慧建立虛假檔案迷惑駭客

該演算法將敏感資訊隱藏在大量的誘餌中

Fox being deceived with decoy chickens.

托馬斯·福克斯

加入我們的科學愛好者社群!

駭客不斷改進滲透網路防禦以竊取有價值的檔案的技術。因此,一些研究人員建議使用人工智慧演算法,一旦駭客入侵,就透過將真檔案隱藏在大量逼真的虛假檔案中來徹底迷惑他們。

該演算法名為“基於詞嵌入的虛假線上儲存庫生成引擎”(WE-FORGE),生成正在開發中的專利的誘餌。但其開發者,達特茅斯學院網路安全研究員V. S. Subrahmanian表示,有一天它可能會“為公司認為需要保護的每份文件建立大量虛假版本”。

如果駭客的目標是,例如,新藥的配方,他們將不得不在大量虛假資訊中找到相關的“針”。這可能意味著要詳細檢查每個配方——甚至可能投資於一些死衚衕的配方。“這裡的遊戲規則是,‘讓它更難,’”Subrahmanian解釋道。“‘對那些從你那裡偷東西的人施加痛苦。’”


關於支援科學新聞業

如果您喜歡這篇文章,請考慮透過以下方式支援我們屢獲殊榮的新聞業 訂閱。透過購買訂閱,您正在幫助確保未來繼續講述關於塑造我們當今世界的發現和想法的具有影響力的故事。


Subrahmanian說,他在讀到公司平均在新的網路攻擊開始後312天才會意識到這些攻擊後,著手了這個專案。“壞人幾乎有一年的時間帶著我們所有的檔案,我們所有的智慧財產權逃之夭夭,”他說。“即使你是輝瑞,這也有足夠的時間偷走幾乎所有東西。這不僅僅是王冠上的寶石——而是王冠上的寶石,女僕的珠寶,以及秘書的手錶!”

網路安全諮詢公司SocialProof Security的執行長Rachel Tobac表示,WE-FORGE生成的偽造文件也可以充當隱藏的“絆線”。例如,當被訪問時,一個誘人的檔案可能會提醒安全部門。公司通常使用人工建立的假檔案來實現這一策略。“但現在,如果這種人工智慧能夠為我們做到這一點,那麼我們可以建立大量對攻擊者來說可信的新文件——而無需做更多的工作,”未參與該專案的Tobac說。

該系統透過在文件中搜索關鍵詞來生成令人信服的誘餌。對於找到的每個關鍵詞,它會計算相關概念列表,並將原始術語替換為隨機選擇的術語。這個過程可以生成數十個不包含專有資訊但看起來仍然合理的文件。Subrahmanian和他的團隊要求計算機科學和化學專業的研究生評估他們各自領域的真實和虛假專利,結果人類發現WE-FORGE生成的文件非常可信。研究結果發表在美國計算機協會的管理資訊系統彙刊上。

WE-FORGE最終可能會擴大其範圍,但Subrahmanian指出,例如,一份建議行動方案的文件將比技術公式複雜得多。不過,他和Tobac都認為這項研究將引起商業界的興趣。“我絕對可以看到一個組織利用這種型別的產品,”Tobac說。“如果這...創造了可信的誘餌,而沒有洩露這些誘餌中的敏感細節,那麼我認為你就取得了巨大的成功。”

索菲·布什維克大眾科學的技術編輯。她負責網站的每日技術新聞報道,撰寫從人工智慧到跳躍機器人等各種主題的文章,供數字和印刷出版,錄製YouTube和TikTok影片,並主持播客Tech, Quickly。布什維克還經常出現在廣播節目中,如Science Friday,以及電視網路,包括CBS、MSNBC和國家地理。她擁有十多年的紐約市科學記者經驗,此前曾在Popular Science、Discover和Gizmodo等媒體工作。在X(前身為Twitter)上關注布什維克 @sophiebushwick

更多作者:索菲·布什維克
大眾科學雜誌 第325卷 第1期本文最初以“資訊過載”為標題發表於大眾科學雜誌 第325卷 第1期(),第18頁
doi:10.1038/scientificamerican0721-18a
© .