本文發表於《大眾科學》的前部落格網路，反映了作者的觀點，不一定反映《大眾科學》的觀點
如今，幾乎所有企業都依賴某種型別的軟體，很少有人會質疑新技術帶來的生產力提高。然而，擁抱先進技術也存在負面影響，並且具有重大意義。
這個問題是相對較近才出現的。僅僅十年前，新軟體功能的引入實際上並沒有影響現實世界——畢竟，沒有人會在升級拼寫檢查器後變得潦倒。今天的情況不同了，複雜軟體的設計正以令人震驚和意想不到的方式影響著人們。
例如，考慮一下高度自動化的線上招聘廣告世界。卡內基梅隆大學兩年前進行的一項研究發現，女性的職位廣告顯示高薪工作的可能性明顯低於男性。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和想法的具有影響力的故事的未來。
這令人不安，但或許不如某些美國州使用的輔助法官量刑的軟體的影響那樣改變人生。調查新聞機構ProPublica研究了其中一個系統，發現其用於預測可能再次犯罪的演算法存在巨大偏差。在比較佛羅里達州2013年和2014年7000人的風險評分時，ProPublica發現，該軟體預測黑人被識別為有未來暴力犯罪風險的可能性比白人高77%。
越來越多的此類例子意味著，不再可能只指出幾個案例就駁回這個問題。軟體開發中缺乏倫理的影響現在已擴充套件到廣泛的應用，包括世界上最常用的軟體——Facebook。
雖然很少有Facebook使用者真正瞭解該軟體，但他們中的許多人瞭解它要求的注意力水平。“要求”這個詞的使用很重要，因為像許多其他社交媒體公司一樣，Facebook已將其軟體構建為相當於您口袋裡的成癮性賭場。
特里斯坦·哈里斯曾在谷歌擔任了三年的設計倫理學家，並且是瞭解社交媒體如何控制您的注意力的專家。他指出，軟體設計師建立的應用程式利用心理技巧來確保您不斷檢視手機，而Facebook也不例外。
在去年的一次採訪中，著名媒體評論員道格拉斯·拉什科夫表示，越來越多地使用這些技術可能會產生重大後果。“我看到的不是旨在使人類更好地駕馭世界的技術，而是旨在幫助公司更好地駕馭和操縱人類行為的技術。”
像Facebook這樣的公司之所以操縱人類行為，是因為他們透過銷售廣告獲利，而且人們使用其軟體的頻率越高，公司就能吸引更多的廣告商。
為了說明這一點，2015年諾丁漢大學的一項研究發現，人們每天使用手機高達80次。這些使用幾乎都不是為了撥打電話。
智慧手機上的軟體對您的注意力進行的永無止境的競爭是一個值得關注的問題，因為研究表明，您使用像Facebook這樣的軟體越多，您就越不快樂。
珍·特文格是聖地亞哥州立大學的心理學教授，也是《iGen：為什麼當今超級互聯的孩子長大後變得不那麼叛逆、更寬容、更不快樂》一書的作者。她研究世代差異已有25年，並且看到青少年孤獨感和抑鬱症自2012年以來急劇上升——就在智慧手機問世後不久。特文格指出，研究表明，13歲的社交媒體重度使用者患抑鬱症的風險增加了27%。她還指出，社交媒體的使用還與其他因素有關，包括自殺率顯著增加以及青少年睡眠水平降低。
雖然這令人擔憂並且需要關注，但真正讓我擔心的是接下來會發生什麼。
技術發展就像進化——最終，優勢生命形式必須進化或滅亡。許多技術觀察家指出，智慧手機已經處於其進化週期的頂峰，下一代個人計算正在迅速興起。最有可能取代智慧手機的競爭者可能是混合現實環境——包括虛擬現實和增強現實。
這些技術令人興奮和身臨其境的性質有可能使今天令人上癮的社交媒體軟體看起來像木製幼兒園積木。如果您擔心青少年將自己關在房間裡花時間在社交媒體上，那就等到軟體開發出來，其反饋機制令人上癮，以至於孩子們寧願留在虛擬世界也不願退出到現實世界。
那麼，解決這些問題的最佳方法是什麼？
從公司的角度來看，程式設計隊伍需要有更大的多樣性。在科技巨頭中，蘋果公司可能是最多樣化的公司，但即使如此，其統計資料也令人沮喪。蘋果公司最新的資料顯示，其員工中有68%是男性，56%是白人。一個更加多元化的技術隊伍將是開始解決軟體中出現的一些性別和種族偏見的一種方法。
完全責怪程式設計師是不公平的，因為軟體還可以提供確保在偏見開始影響人們之前檢測到偏見的方法。其中一種工具稱為Themis，這是一款免費軟體，使程式設計師能夠使用數千個虛假使用者（每個使用者都有不同的配置檔案）來測試他們的作品，以檢測歧視。顯然，對於任何具有現實世界影響的軟體（例如金融服務和司法領域的軟體），都應定期應用此過程。
監管機構也需要緊急行動，但這存在問題。詹姆斯·鄧肯是獨立諮詢公司Stance Global的聯合創始人，並在去年年底之前在英國內閣辦公室擔任高階技術顧問職務。他親身觀察到了政策問題，並指出我們世界的基石正在被數字世界的地基所取代。
鄧肯說：“社會能夠跟上步伐，是因為技術需要能夠落地。“我們的政府並非如此，要解決這個問題將需要付出努力和深思熟慮，而目前的情況並非如此。”
解決這些問題需要技術領導者對世界有更廣闊的視野。該行業不需要更多的程式設計師，它迫切需要更多的女性、倫理學家和哲學家。