本文發表於《大眾科學》的前部落格網路，反映了作者的觀點，不一定反映《大眾科學》的觀點
想象一下這樣一個世界，它由智慧技術管理，旨在實現三個既不同又相互關聯的規範性目標：最佳化的交易效率、資源生產力和人類幸福感。我們可以擁有暢通無阻的道路——沒有擁堵，沒有路怒！即時、個性化的娛樂——無需搜尋或瀏覽！成功的社互動動——沒有誤解或錯失暗示！沒有意外的疾病，沒有失敗，沒有錯失的機會！甚至沒有任何形式的意外！我們的世界存在如此多的缺陷，智慧技術可以修復。
我們並未生活在這樣的世界中，但實現這一世界所需的技術已經在快速開發和部署中。 以物聯網 (IoT) 為例——大資料、感測器、演算法、人工智慧和各種其他相關技術。 他們的推廣者做出了誘人的承諾。 據說，智慧手機、電網、汽車、住宅、服裝等等將使我們的生活更輕鬆、更好、更幸福。
這些主張深深植根於智慧科技的烏托邦願景，該願景建立在先前的技術烏托邦願景（如網路烏托邦主義）以及經濟烏托邦願景（如科斯定理中關於無摩擦、完美高效市場的思想和泰勒制中關於科學管理、完美高效工人的願景）之上。 在我們現代的數字網路世界中，這些願景遠遠超出了其最初的理想化網際網路、市場和工作場所的背景。 智慧科技可以管理我們生活中的更多方面。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。 透過購買訂閱，您將有助於確保有關塑造我們當今世界的發現和思想的具有影響力的故事的未來。
在重塑人類一書中，埃文·塞林格和我解釋了嵌入在這些願景中的邏輯適用於更廣泛的依賴於人類勞動（時間、注意力、努力等等）的行為，無論是駕駛汽車、照顧孩子、鍛鍊身心，還是任何其他人類活動。 在不遠的將來，據稱智慧技術系統可能會被部署，以最大限度地提高我們一生中的人類生產力。 智慧科技烏托邦主義正在推動 21 世紀的社會和技術進步，但它似乎註定要以暴政告終。
原因如下
在智慧科技世界中，許多關於人性的重要方面將會喪失。 智慧科技烏托邦主義意味著最大限度地減少與人類作為人相關的各種成本。 雖然對於受過效率思維訓練的經濟學家和工程師來說，這似乎有悖常理，但人類需要摩擦。 道路上的擁堵可能是純粹的浪費，但我們生活中的擁堵可能並非如此。 通常，它以難以衡量的方式產生價值，至少在金錢或快樂方面是如此。 擁堵有時是社交或停下來思考你正在等待什麼的機會。
例如，考慮一下在雜貨店結賬隊伍中等待的時間。 有時這很麻煩，但有時這是與朋友甚至陌生人交談的好時機。 有時它也是一個緩衝，讓您有時間重新考慮購買、預料後悔、鍛鍊意志力並做出更好的決定。 效率至上論者太容易忽視搜尋、瀏覽、感到無聊、迷路、失敗、錯過、做白日夢、感到驚喜、即興發揮的價值。
武裝了海量行為資料的社會工程師將可預測的非理性人類視為引導其走向理性的物件，並將智慧技術視為引導的有效工具。 然而，他們未能認識到，一個完美理性的智慧科技世界是一個反烏托邦式的噩夢，其中人類被簡化為機器人——也許是“快樂的”機器人，但這幾乎不是安慰。
關於人性，除了幸福之外，還有更多重要的東西（當然幸福也很重要）。 有時，非理性是我們個人價值觀之間存在衝突的非常人性化的傾向的產物，有時是因為我們對問題進行情境化，並在效率至上論者和社會工程師只看到要消除的交易成本的地方看到意義。
大多數人並不完全或專門地認同嵌入在智慧科技烏托邦願景中的理想，但他們將別無選擇，只能按照這些理想生活。 他們可能會優先考慮效率、生產力和幸福感以外的價值觀。 如果有選擇，他們不會選擇“接入”智慧科技世界。 然而，這種選擇永遠不會被給予。 不會有“插頭”或投票。 大多數人在智慧技術的開發和部署中幾乎沒有發言權，更不用說在世界建設的複雜政治經濟學中； 這幾乎不是民主的——儘管有些人會爭辯說人們在市場上作為消費者擁有發言權。
但這似乎很可笑。 如果我們過去十年的經驗具有啟發意義，那麼對據稱智慧技術的偏好很可能會受到誇大的說法和明顯的遺漏的影響。 所有據稱“免費”的線上服務和內容實際上都是有代價的。
得出結論認為消費者選擇了無處不在的監控，這是否合理？ 不，並非如此。 只有在事後諸葛亮地看待問題，並對政治經濟學、技術社會工程學和人類心理學方面的不便事實視而不見時，這種論點才說得通。 人們是否接受了據稱免費的東西，透過在高度工程化的數字網路環境中的體驗逐漸培養了期望、偏好和習慣，並變得依賴於監控資本主義？
是的，這似乎是對過去二十年更合理的描述。 無論如何，在許多情況下，人們現在和將來都根本沒有發言權。 強大的投資者已經追求並將繼續追求他們關於由智慧科技系統管理的世界的烏托邦願景。 由於無縫互連和無處不在的部署是關鍵特徵，我們應該預見、評估並（我認為）抵制每個人預設情況下始終處於開啟狀態的未來——簡而言之，智慧科技的暴政。
正如 20 世紀 90 年代需要技術現實主義來對抗網路自由主義烏托邦主義一樣，我們需要認清所謂的智慧技術及其烏托邦主義掩蓋的許多有爭議的權衡。 事關人類的命運。