人工智慧思想家似乎來自兩個群體。一個是我稱之為有遠見卓識的人，他們推測這項技術的未來可能性，並援引烏托邦式的幻想來激發興奮感。有遠見卓識的想法引人入勝，但往往被不切實際的願景以及可以而且應該構建什麼的倫理挑戰所籠罩。
相比之下，我稱之為腳踏實地的實幹家則專注於問題和解決方案。他們希望減少廣泛使用的、注入人工智慧的系統可能造成的危害。他們專注於修復有偏見和有缺陷的系統，例如面部識別系統，這些系統經常錯誤地將人識別為罪犯或侵犯隱私。實幹家希望減少人工智慧可能造成的致命醫療錯誤，並引導自動駕駛汽車成為安全駕駛汽車。他們的目標還在於改進基於人工智慧的關於抵押貸款、大學錄取、工作招聘和假釋授予的決策。
作為一位擁有長期設計並廣泛實施創新應用的計算機科學教授，我認為有遠見卓識的人將受益於採納腳踏實地的現實主義者的深思熟慮的資訊。結合這兩個陣營的工作更可能產生有益的結果，從而帶來成功的下一代技術。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保關於塑造我們當今世界的發現和想法的有影響力的故事的未來。
雖然有遠見卓識的投機者的未來主義思想激發了我們的敬畏並贏得了大部分資金，但腳踏實地的思想提醒我們，某些人工智慧應用威脅著隱私，傳播錯誤資訊，並且明顯帶有種族歧視，性別歧視，以及其他在道德上可疑的應用。機器無疑是我們未來的一部分，但它們會平等地為所有未來人類服務嗎？我認為，腳踏實地陣營的謹慎和務實將在短期和長期內造福人類，確保在日益控制我們日常生活的演算法開發中實現多樣性和平等。如果具有遠見卓識的思想家將腳踏實地的現實主義者的擔憂融入到他們的設計中，他們就可以創造出更有可能促進人類價值觀、權利和尊嚴的未來技術。
有遠見卓識的思考在人工智慧發展的早期就開始了。文獻主要由那些率先開發這項技術並預示其將不可避免地改變社會的作者所主導。人工智慧的“鼻祖”通常被認為是來自麻省理工學院的 Marvin Minsky 和 John McCarthy 以及來自卡內基梅隆大學的 Allen Newell 和 Herb Simon。他們聚集在會議上，例如 1956 年的達特茅斯會議，激發了熱情，Simon 在 1965 年的預測中就體現了這一點，他預測“機器將在 20 年內能夠完成任何人都能做的任何工作。”
人工智慧還有許多其他貢獻者，包括 2018 年的三位 圖靈獎獲得者：Geoffrey Hinton、Yoshua Bengio 和 Yann LeCun。他們在深度學習演算法方面的工作是一個重要貢獻，但他們對人工智慧的重要性和必然性的持續讚揚，包括 Hinton 在 2016 年令人不安的引言，即“人們現在應該停止培訓放射科醫生。很明顯，五年內深度學習將比放射科醫生做得更好。”更以人為中心的觀點是，深度學習演算法將成為另一種工具，就像乳房X光片和血液測試一樣，使放射科醫生和其他臨床醫生能夠做出更準確的診斷並提供更合適的治療方案。
機器人取代人類，從而造成普遍失業的主題，被牛津大學 2013 年的一份報告合法化，該報告聲稱 47% 的工作崗位可以自動化。未來學家 Martin Ford 在 2015 年出版的《機器人的崛起》一書中抓住了這個想法，描繪了一幅令人不安的畫面，即低技能和高技能工作都變得如此完全自動化，以至於政府將不得不提供全民基本收入，因為剩下的工作崗位寥寥無幾。現實情況是，精心設計的自動化提高了生產力，從而降低了價格，提高了需求，併為許多人帶來了好處。這些變化引發了強勁創造新工作崗位的並行現象，這有助於導致美國和一些其他國家目前的高就業水平。
是的，也有作者提出了警示故事和不同的願景，例如麻省理工學院教授 Joseph Weizenbaum 在他 1976 年出版的《計算機力量與人類理性》一書中，但這些都是例外。
腳踏實地的實幹家掀起了一股新的深思熟慮的人工智慧批評浪潮。他們將討論從有遠見卓識的樂觀主義轉向明確識別對人類尊嚴、公平和民主的威脅。2016 年白宮研討會和專欄文章是有益的舉措，數學家 Cathy O’Neil 在 2016 年出版的《數學殺器》擴大了受眾。她專注於不透明的人工智慧演算法在大規模應用於決定假釋、抵押貸款和工作申請時可能造成的危害。O’Neil 的有力例子促進了以人為本的思考。
其他書籍，例如 Ruha Benjamin 的 《種族之後的技術：新吉姆程式碼的廢奴主義工具》，跟進了如何改變演算法以增加經濟機會和減少種族偏見。
社會心理學家 Shoshanna Zuboff 在 2019 年出版的《監控資本主義時代》中展示了從谷歌早期“不作惡”的座右銘到“混淆這些過程及其影響”的精心策劃的努力的轉變。Zuboff 的解決方案是呼籲改變商業模式、民主監督和隱私保護區。學者 Kate Crawford 在她 2021 年出版的《人工智慧圖集》中提出了另一項具有破壞性的腳踏實地分析，該書重點關注人工智慧對工作、環境、人際關係和民主的剝削性和破壞性力量。她在為美國國家工程院做的引人入勝的講座中提煉了她的資訊，描述了人工智慧研究人員和實施者可以採取的建設性行動，同時鼓勵政府監管和個人努力保護隱私。
腳踏實地的活動家因其積極的研究貢獻而獲得認可，這些貢獻提供了有益於人們的巧妙設計。2021 年 10 月，Cynthia Rudin 因其“人工智慧造福人類”的工作而獲得了由人工智慧促進協會頒發的 100 萬美元獎金。她對可解釋形式人工智慧的研究是對不透明的黑匣子演算法令人費解的複雜性的回應，這使得人們很難理解為什麼他們的假釋、抵押貸款或工作申請被拒絕。
許多腳踏實地的思想家是女性，但男性也公開表示需要人道主義監督。技術先驅 Jaron Lanier 也在他的《立即刪除你的社交媒體賬戶的十個理由》中提出了擔憂，該書指出了社交媒體的危害，並建議使用者更多地控制他們對社交媒體的使用。法學學者 Frank Pasquale 的《機器人技術新法則》解釋了為什麼人工智慧開發人員應該重視人類專業知識，避免技術軍備競賽，並對他們創造的技術承擔責任。然而，透過以人為本的設計來確保人類控制，將需要在國家政策、商業實踐、研究議程和教育課程方面進行重大變革。
這個陣營中多樣化的工作者——包括女性、非二元性別者、殘疾人士和有色人種——擁有重要的資訊，以確保有遠見卓識的夢想可以轉化為造福人類和保護環境的可實現的產品和服務。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。