2020年，Collaborations Pharmaceuticals公司是一家專門尋找罕見病和傳染病新候選藥物的公司，收到了一項不尋常的請求。這家位於北卡羅來納州羅利市的私營公司被邀請在一次關於化學和生物武器的國際會議上發表演講。演講內容是關於通常用於開發治療Pitt-Hopkins綜合徵或查加斯病等疾病的藥物的人工智慧軟體，如何可能被轉移到更邪惡的目的。
為了回應邀請，Collaborations公司的執行長肖恩·埃金斯開始與公司高階科學家法比奧·烏爾比納進行頭腦風暴。他們很快就想出了一個主意：如果Collaborations公司不是使用動物毒理學資料來避免藥物的危險副作用，而是讓其基於人工智慧的MegaSyn軟體生成與臭名昭著的神經毒劑VX相似的有毒分子綱要，會怎麼樣？
該團隊連夜運行了MegaSyn，得到了40,000種物質，不僅包括VX和其他已知的化學武器，還包括許多全新的潛在有毒物質。這一切只需要一點程式設計、開源資料、一臺2015年的Mac電腦和不到六個小時的機器時間。“感覺有點超現實，”烏爾比納說，他評論說該軟體的輸出與公司的商業藥物開發過程相似。“這與我們以前做過的任何事情沒有什麼不同——使用這些生成模型來生成有希望的新藥。”
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您將有助於確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
Collaborations公司在瑞士施皮茨舉行的CONVERGENCE會議上展示了這項工作，該會議每兩年舉行一次，旨在評估生物和化學研究中可能對國家安全構成威脅的新趨勢。烏爾比納、埃金斯及其同事甚至在《自然-機器智慧》雜誌上發表了一篇同行評議的評論，介紹了該公司的研究——並繼續向白宮科技政策辦公室簡要介紹了研究結果。“我們的感覺是，[這項研究]可以為該領域的政策制定提供有用的跳板，”倫敦國王學院科學與安全研究中心聯合主任、該論文的合著者菲利帕·倫佐斯說。
與該公司日常工作的驚人相似性令人震驚。烏爾比納說，研究人員之前曾使用MegaSyn生成具有治療潛力的分子，這些分子具有與VX相同的分子靶點。這些被稱為乙醯膽鹼酯酶抑制劑的藥物可以幫助治療阿爾茨海默病等神經退行性疾病。對於他們的研究，研究人員僅僅要求該軟體生成與VX相似的物質，而沒有輸入該分子的確切結構。
包括MegaSyn在內的許多藥物發現人工智慧都使用人工神經網路。“基本上，神經網路告訴我們應該走哪條路才能到達特定的目的地，即生物活性，”馬里蘭大學藥學院計算機輔助藥物設計中心主任亞歷克斯·麥克雷爾說，他沒有參與這項研究。人工智慧系統根據某些標準（例如，它抑制或啟用特定蛋白質的程度）對分子進行“評分”。較高的分數告訴研究人員，該物質可能更可能具有期望的效果。
在該公司的研究中，該公司的評分方法顯示，MegaSyn生成的許多新型分子預計比VX更具毒性，這一認識讓烏爾比納和埃金斯都感到不安。他們想知道，他們是否甚至在執行該程式時就已經越過了道德界限，並決定不再進一步在計算上縮小結果範圍，更不用說以任何方式測試這些物質了。
埃默裡大學生物倫理學家和倫理中心主任保羅·魯特·沃爾普說：“我認為他們的倫理直覺是完全正確的，”他沒有參與這項研究。沃爾普經常撰寫和思考與人工智慧等新興技術相關的問題。他說，一旦作者認為他們可以證明這是一種潛在的威脅，“他們的義務是不再進一步推進。”
但一些專家表示，這項研究不足以回答關於使用人工智慧軟體尋找毒素是否實際上可能導致實際生物武器的開發的重要問題。
喬治梅森大學政策與政府學院生物防禦專案副教授索尼婭·本·瓦格拉姆-戈姆利評論說：“過去武器計劃中實際武器的開發一次又一次地表明，理論上看起來可能的事情在實踐中可能不可行，”她沒有參與這項研究。
約翰·霍普金斯大學西德尼·基梅爾綜合癌症中心定量科學副主任埃拉娜·費爾蒂格也表示，儘管存在這一挑戰，但人工智慧可以快速生成大量潛在危險物質的便利性仍然可以加快製造致命生物武器的過程，她也沒有參與這項研究。
為了使人們更難以濫用這些技術，該論文的作者提出了幾種方法來監控和控制誰可以使用這些技術以及如何使用它們，包括等待名單，這將要求使用者在訪問可能被輕易濫用的模型、資料或程式碼之前，必須經過預先篩選程式以驗證其資質。
他們還建議透過應用程式程式設計介面 (API) 向公眾展示藥物發現人工智慧，API 是一箇中間媒介，允許兩個軟體相互對話。使用者必須專門從 API 請求分子資料。埃金斯在給大眾科學的電子郵件中寫道，API 的結構可以設定為僅生成可以最大限度地減少潛在毒性的分子，並且“要求使用者以特定方式[應用]工具/模型”。可以訪問 API 的使用者也可能受到限制，並且可以設定使用者一次可以生成的分子數量的限制。儘管如此，本·瓦格拉姆-戈姆利認為，在沒有表明該技術可以輕易促進生物武器發展的情況下，這種監管可能為時過早。
對於他們自己而言，烏爾比納和埃金斯認為他們的工作是引起人們對濫用這項技術問題的關注的第一步。“我們不想把這些東西描繪成壞的，因為它們實際上確實有很多價值，”埃金斯說。“但它也有陰暗面。這裡有一個警示，我認為考慮這一點很重要。”