人工智慧無處不在，並且對應該監控和監管它的人們構成了一個巨大的問題。政府機構應該在開發和部署的哪個階段介入？使用人工智慧的眾多行業能夠自我控制嗎？這些公司會允許我們窺探其應用程式的幕後嗎？我們能否可持續地開發人工智慧，以合乎道德的方式對其進行測試，並負責任地部署它？
這些問題不能僅由一個機構或一種監管型別來解決。人工智慧以一種方式被用來建立聊天機器人，以另一種方式被用來挖掘人體以尋找可能的藥物靶點，又以另一種方式被用來控制自動駕駛汽車。每一種應用都既有可能造成危害，也有可能帶來幫助。我們建議美國所有機構迅速攜手合作，最終確定跨機構規則，以確保這些應用程式的安全性；與此同時，他們必須針對屬於其管轄範圍的行業制定具體的建議。
如果沒有充分的監管，人工智慧將繼續存在偏見，提供錯誤的資訊，錯過醫療診斷，並導致交通事故和人員傷亡。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們今天世界的發現和想法的具有影響力的故事的未來。
人工智慧有許多卓越且有益的用途，包括遏制氣候變化、瞭解具有大流行潛力的病毒、解決蛋白質摺疊問題以及幫助識別非法藥物。但人工智慧產品的輸出質量僅與其輸入質量一樣好，而這正是大部分監管問題的癥結所在。
從根本上說，人工智慧是一種計算過程，它在輸入的大量資料中尋找模式或相似之處。當被問及問題或被告知要解決問題時，程式會使用這些模式或相似之處來回答。因此，當您要求像ChatGPT這樣的程式以埃德加·愛倫·坡的風格寫一首詩時，它不必思考虛弱和疲憊。它可以從所有可用的坡的作品，以及坡的評論、讚揚和模仿中推斷出風格，這些作品都曾呈現給它。儘管該系統沒有一顆會說話的心，但它似乎在學習。
目前，我們幾乎無法知道哪些資訊輸入到人工智慧應用程式中，這些資訊來自哪裡，質量如何以及是否具有代表性。根據美國現行法規，公司不必告知任何人他們用來構建應用程式的程式碼或訓練材料。藝術家、作家和軟體工程師正在起訴一些流行的生成式人工智慧程式背後的公司，原因是他們將原創作品變成訓練資料，而沒有補償甚至承認這些影像、文字和程式碼的人類創作者。這是一個版權問題。
然後是黑匣子問題——即使是開發者也不太清楚他們的產品如何使用訓練資料來做出決策。當您得到錯誤的診斷時，您可以問您的醫生為什麼，但您不能問人工智慧。這是一個安全問題。
如果您被拒絕房屋貸款或未被考慮從事透過自動化篩選的工作，您無法向人工智慧申訴。這是一個公平問題。
在將其產品釋出給公司或公眾之前，人工智慧建立者會在受控情況下對其進行測試，以檢視它們是否給出正確的診斷或做出最佳的客戶服務決策。但是，許多此類測試並未考慮現實世界的複雜性。這是一個功效問題。
一旦人工智慧在現實世界中釋出，誰來負責？ChatGPT會隨意編造答案。它會產生幻覺，可以這麼說。DALL-E 允許我們使用提示製作影像，但如果影像是虛假的並且具有誹謗性怎麼辦？製作這兩款產品的公司 OpenAI 是否應該負責，還是使用它製作假影像的人應該負責？隱私方面也存在重大擔憂。一旦有人將資料輸入程式，它歸誰所有？可以追溯到使用者嗎？您提供給聊天機器人以解決手頭問題的資訊歸誰所有？這些都是倫理問題。
OpenAI 的執行長 Sam Altman 告訴國會，人工智慧需要受到監管，因為它可能本質上是危險的。一群技術專家呼籲暫停開發比 ChatGPT 更強大的新產品，以便在所有這些問題得到解決之前（這種暫停並非新鮮事——生物學家在1970 年代就做過這件事，以暫停將 DNA 片段從一種生物體轉移到另一種生物體，這成為分子生物學和理解疾病的基石）。被廣泛認為是現代機器學習技術基礎的開發者 Geoffrey Hinton 也對人工智慧的發展方式感到擔憂。
中國正在嘗試監管人工智慧，重點關注黑匣子和安全問題，但有些人認為該國的努力是維護政府權威的一種方式。歐盟正在像往常一樣對待政府幹預問題那樣對待人工智慧監管：透過風險評估和安全第一的框架。白宮已經提供了一個藍圖，說明公司和研究人員應該如何進行人工智慧開發——但會有人遵守其指導方針嗎？
最近，聯邦貿易委員會主席 Lina Khan 表示，根據之前在保障網際網路安全方面的工作，聯邦貿易委員會可以監督人工智慧的消費者安全和功效。該機構目前正在調查 ChatGPT 的不準確之處。但這還不夠。多年來，人工智慧已經透過客戶服務以及 Alexa 和 Siri 融入到我們生活的方方面面。人工智慧正在進入醫療產品領域。它已經被用於政治廣告來影響民主。當我們司法系統正在努力解決聯邦機構的監管權力時，人工智慧正在迅速成為下一個，也許是最大的考驗。我們希望聯邦監管能夠使這項新技術在安全和公平的環境中蓬勃發展。