紐約州特洛伊市——你不會想到在神聖的學術殿堂裡會有人痴迷於邪惡（儘管有些學生可能不同意）。但確實是邪惡——或者更確切地說，是試圖探究邪惡的根源——吸引了 塞爾默·布林斯喬德，他是一位邏輯學家、哲學家，也是 倫斯勒理工學院認知科學系的主席。事實上，他對邪惡非常著迷，以至於他開發了一個清單，用於確定某人是否是惡魔般的，並且正在與一組研究生合作，建立一個純粹邪惡的人的計算機化表示。
“我一直在研究什麼是邪惡，以及如何正式定義它，”布林斯喬德說，他也是倫斯勒人工智慧與推理實驗室（RAIR）的主任。“這很可怕，我知道。”
要真正邪惡，某人必須試圖透過計劃實施某些道德上錯誤的行動來造成傷害，而沒有受到他人的提示（這個人是否成功執行了他的或她的計劃是次要的）。布林斯喬德說，這個邪惡的人必須試圖執行這個計劃，希望“對他人造成相當大的傷害”。最後，“也是最重要的，”他補充說，如果這個邪惡的人願意分析他或她想要實施這個道德上錯誤的行動的原因，這些原因要麼被證明是語無倫次的，要麼他們會揭示這個邪惡的人知道他或她正在做錯事，並且認為造成的傷害是一件好事。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。 透過購買訂閱，您正在幫助確保未來能夠繼續講述關於塑造我們當今世界的發現和想法的有影響力的故事。
布林斯喬德的研究建立在聖地亞哥州立大學哲學教授 J. 安吉洛·科萊特 以及已故的社會政治哲學家和心理學家 喬爾·費恩伯格 和 埃裡希·弗洛姆，但最重要的是精神病學家和作家 M. 斯科特·派克 在他 1983 年的書《謊言之民：治癒人類邪惡的希望》中提出的早期定義之上。在閱讀了派克關於臨床邪惡人士的鉅著後，“我認為提出定義邪惡的形式結構會很有趣，”布林斯喬德說，“最終，像有創意的作家那樣創造一個純粹邪惡的角色。”
他和他的研究團隊開始開發他們對邪惡的計算機表示，首先提出一系列基本問題——姓名、年齡、性別等等——然後逐步深入到關於這個虛構人物的信仰和動機的詢問。
這項練習產生了 “E”，這是一個最早在 2005 年建立的計算機角色，旨在滿足布林斯喬德對邪惡的工作定義的標準。雖然最初的 E 只是一個程式，旨在以符合布林斯喬德定義的方式回應問題，但研究人員後來賦予了 E 一個物理身份：他是一位相對年輕的白人男性，留著黑色短髮，臉上留著深色胡茬。布林斯喬德稱 E 的外貌是 1989 年電影 《死亡詩社》中角色佩裡先生的 “更刻薄的版本”。“他是一個邪惡的絕佳例子，”布林斯喬德說，但他補充說，他對這個人格化並不完全滿意，可能會做出改變。
研究人員將 E 放置在他自己的虛擬世界中，並編寫了一個程式，描述了一位研究人員的虛擬化身與 E 之間的一段指令碼式訪談。在這個例子中，E 被程式設計為根據派克書中一個案例研究來回答問題，該案例研究涉及一個男孩，他的父母給了他一把槍，這把槍是他的哥哥用來自殺的。
研究人員為 E 程式設計了一定程度的人工智慧，使其 “他” 相信是他（而不是父母）將手槍給了那個心煩意亂的男孩，然後向 E 提出了一系列問題，旨在探究他這樣做的邏輯。結果是一個超現實的模擬，期間布林斯喬德的惡魔化身試圖為其行為提出一個邏輯論證：男孩想要一把槍，E 有一把槍，所以 E 把槍給了男孩。
布林斯喬德和他的團隊希望在年底前完成第四代 E，它將能夠使用人工智慧和有限的簡單英語（例如，沒有俚語）與計算機使用者 “交談”。
沿著一位真正的邏輯學家的道路，布林斯喬德對文學作品中對美德和邪惡的描繪的興趣，導致了他對幫助作家發展想法和創作故事的軟體的興趣；反過來，這促使他開發了自己的軟體來模擬人類行為，無論是好的還是令人憎惡的，巴里·史密斯 說，他是 紐約州立大學布法羅分校 的生物資訊學和本體論傑出教授，他熟悉布林斯喬德的工作。“他被認為是哲學和計算機科學領域的邊緣人物。”
布林斯喬德和史密斯都對尋找更好地理解人類行為的方法感興趣，他們的工作已經引起了情報界的關注，情報界正在尋求方法來成功分析他們收集到的關於潛在恐怖分子的資訊。“要解決情報分析中的問題，你需要更準確地表示人，”史密斯說。“塞爾默正試圖構建真正出色的人類表示，涵蓋他們所有的微妙之處。”
布林斯喬德承認，即使在軟體程式中創造純粹的邪惡，也確實會引發倫理問題，例如，如果研究人員將像 E 這樣的人工智慧角色放置在像 第二人生 這樣的虛擬世界中，他們將如何控制 “他” ，第二人生是一個基於網路的程式，允許人們建立自己的數字表示，並讓這些 虛擬化身 以多種不同的方式互動。
“即使在純粹的虛擬環境中，我也不會在沒有工程安全措施的情況下發布 E 或任何類似的東西，”布林斯喬德說。這些安全措施將是一套寫入軟體的倫理規範，類似於艾薩克·阿西莫夫的 “機器人三定律”，該定律阻止機器人傷害人類，要求機器人服從人類，並指示機器人保護自己——只要這不違反前兩條定律中的任何一條或兩條。
“因為我對這種方法充滿信心，”他說，“E 將會受到控制。”