以下文章經許可轉載自The Conversation，這是一個報道最新研究的線上出版物。
計算機專業人士幾乎處於現代世界各個方面的前沿。當駭客從一家大型公司竊取數十萬人的個人資訊時，他們參與應對。他們的工作可以保護——或危害——關鍵基礎設施，例如電網和交通線路。他們編寫的演算法可能會決定誰能獲得工作，誰能獲得銀行貸款批准，或者誰能獲得保釋。
技術專業人士是防禦技術濫用的第一道也是最後一道防線。沒有人比他們更瞭解系統，也沒有人能像他們一樣保護特定的資料元素，或確保一個元件與另一個元件之間的連線是適當、安全和可靠的。隨著計算機在社會中的作用持續數十年的擴充套件，計算機科學家對於接下來發生的事情至關重要。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
這就是為什麼世界上最大的計算機科學家和工程師組織——美國計算機協會（我是該協會的主席）釋出了面向計算專業人士的新道德規範。這也是為什麼 ACM 正在採取其他措施來幫助技術專家參與道德問題。
為公共利益服務
道德規範不僅僅是一份紙質檔案。有數百個核心價值觀和標準的例子，每個領域的成員都必須遵守這些標準，包括管風琴師協會和戶外廣告協會。世界上最古老的道德規範也是最著名的：希波克拉底誓言，醫務人員宣誓負責任地照顧他們的病人。
我懷疑希波克拉底誓言之所以出名，原因之一是醫療是多麼的個人化，人們的生命危在旦夕。對於患者來說，確信他們的醫護人員將他們的利益牢記在心非常重要。
在許多方面，技術也同樣具有個人性。在現代社會中，計算機、軟體和數字資料無處不在。它們在筆記型電腦和智慧手機、社交媒體和視訊會議中可見，但它們也隱藏在幫助管理人們日常生活的裝置中，從恆溫器到咖啡機的定時器。自動駕駛汽車、感測器網路和機器學習的新發展意味著計算將在未來幾年在日常生活中發揮更加核心的作用。
一個不斷變化的行業
作為這些技術的創造者，計算專業人士幫助開創了現代生活嶄新而充滿活力的節奏。但是，隨著計算機越來越融入生活結構，我們這個行業的從業人員必須親自重新承諾透過道德行為為社會服務。
ACM 上一次的道德規範是在 1992 年透過的，當時許多人認為計算工作純粹是技術性的。網際網路還處於起步階段，人們才剛剛開始瞭解廣泛聚合和分發資訊的價值。人工智慧和機器學習還需要數年才能在研究實驗室之外得到應用。
今天，技術人員的工作可能會以意想不到的、甚至是不可預測的方式影響人們的生活和生計。我不是受過倫理學訓練的倫理學家，但我很清楚，當今計算領域的任何人都可以從關於倫理思維和行為的指導中受益。
規範的更新
ACM 新的道德規範與 1992 年的版本有幾個重要的區別。其中一個與意外後果有關。在 20 世紀 70 年代和 80 年代，技術人員構建的軟體或系統的影響僅限於特定地點或情況。但在過去的二十年中，人們越來越清楚地認識到，隨著技術的進步，它們可以應用於與最初意圖截然不同的環境。
例如，計算機視覺研究已經產生了基於 2D 影像建立物體（和人）的 3D 模型的方法，但這絕不是為了與監視或無人機應用中的機器學習結合使用。舊的道德規範要求軟體開發人員確保程式實際上能夠實現他們所說的功能。新版本還告誡開發人員明確評估他們的工作，以識別潛在的有害副作用或濫用的可能性。
另一個例子與人機互動有關。1992 年，大多數軟體是由訓練有素的程式設計師開發的，用於執行作業系統、資料庫和其他基本計算功能。今天，許多應用程式依賴於使用者介面來直接與潛在的大量人群互動。更新後的道德規範包括更多關於非常多樣化的潛在使用者的需求和敏感性的詳細考慮——包括討論歧視、排斥和騷擾。
越來越多的軟體正在開發中，無需或幾乎無需人工輸入或理解即可執行，從而產生分析結果以指導決策，例如何時批准銀行貸款。輸出可能會產生完全意想不到的社會影響，對整類人群產生偏見——例如最近的案例，資料探勘預測誰會拖欠貸款，結果顯示對尋求長期貸款的人或居住在特定地區的人存在偏見。還存在所謂的“誤報”的危險，即計算機將兩個不應該連線的事物聯絡起來——例如，面部識別軟體最近將國會議員與罪犯的大頭照匹配。修訂後的規範告誡技術專家要特別注意避免建立有可能壓迫或剝奪整個人群權利的系統。
技術中的生活倫理
該規範的修訂歷時兩年多，包括 ACM 成員以及組織外部甚至計算和技術專業之外的人員。所有這些觀點都使該規範變得更好。例如，一位政府僱用的武器設計師詢問，這份工作是否天生就需要違反該規範；措辭已更改為澄清系統必須“符合公共利益”。
現在規範已經發布，還有更多工作要做。ACM 建立了一個案例研究庫，展示瞭如何在各種現實情況下應用倫理思維和指南。該小組的“諮詢倫理學家”部落格和影片系列邀請公眾提交他們在實踐中出現的場景或難題。目前還在進行開發教學模組的工作，以便將這些概念從小學到大學融入計算教育中。
反饋絕大多數是積極的。我個人最喜歡的評論是一位年輕程式設計師在閱讀規範後說的：“現在我知道如果我的老闆再要求我做類似的事情，我該怎麼告訴他了。”
《ACM 道德與職業行為準則》以“計算專業人士的行為改變世界”這句話開頭。我們不知道我們的規範是否會像希波克拉底誓言那樣長久。但它突顯了全球計算界理解我們工作的影響——並認真對待我們對公共利益的義務——是多麼重要。
本文最初發表於The Conversation。閱讀原始文章。