也許你對《星際迷航：下一代》中的Data很熟悉，他是一個擁有先進人工智慧但沒有情感的機器人——他無法感受快樂或悲傷。 然而，Data渴望更多。 他想成為一個人！ 因此，他的創造者開始了長達數季的探索，以開發能夠實現夢想的“情感晶片”。
當你看這部劇時，很難不去思考這個探索的終點。 Data會先做什麼？ 安慰悲傷的人？ 分享船員的喜悅？ 對笑話一笑？ 講一個笑話？ 機器學習已經產生了可以處理人類情感的軟體，它讀取微表情的能力比人類更好，並且通常可以僅透過掃描一個人的臉來 cataloguing 一個人內心可能發生的事情。
廣告商和營銷人員立即抓住了這項技術。 例如，可口可樂公司聘請了一家名為Affectiva的公司，該公司銷售情感識別軟體，以微調廣告。 像往常一樣，金錢正在驅動這項並不高尚的追求：研究表明，與使用理性或資訊性方法相比，觸發強烈情感反應的廣告更能促使我們消費。 原則上，情感識別還可以用於以前無法實現的定價和營銷方式。 當你站在自動售貨機前時，你看起來有多渴？ 價格可能會因此而改變。 餓了嗎？ 熱狗可能會變得更貴。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。 透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和想法的有影響力的故事的未來。
這項技術幾乎肯定會與面部識別演算法一起使用。 當你走進商店時，攝像頭可以捕捉你的面容，識別你並調出你的資料。 銷售人員可能會獲得關於如何讓你購買那件毛衣的謹慎提示——迎合你的自尊心？ 利用你的不安全感？ 提供配飾和配套單品？——同時，為你量身定製的優惠券開始在你的手機上閃爍。 資料庫知道你明天有面試嗎？ 好的，這裡有一張西裝外套或領帶的優惠券。 你是否被標記為只逛不買或財務狀況有限的人？ 你可能會被忽視，甚至被可疑地跟蹤。
情感識別軟體的一個潛在且幾乎不可避免的用途是識別具有“不良”行為的人。 像往常一樣，最初的應用可能與安全有關。 例如，在最近的泰勒·斯威夫特演唱會上，據報道使用了面部識別技術來試圖發現潛在的滋事者。 該軟體已經在美國機場部署，並且可能很快就會開始做更多的事情，而不僅僅是識別已知的安全風險或跟蹤者。 誰太緊張了？ 誰表現得心虛？
在更專制的國家，該軟體可能會轉向識別不滿分子。 在中國，一個由共產黨推動的應用程式擁有超過1億註冊使用者——是該國蘋果數字商店中最受歡迎的應用程式。 在一個已經以數字監控和“社會信用體系”而聞名的國家，該體系根據行為獎勵和懲罰人們，而這些行為是黨贊成或不贊成的，《紐約時報》將其描述為“致力於宣傳習近平主席”的應用程式如此受歡迎也就不足為奇了。 很快，中國的人們可能甚至無法在使用該應用程式時翻白眼：手機的攝像頭可以衡量他們在閱讀習近平的最新語錄時的活力和幸福感，然後對那些顯得不夠熱情的人扣分。
不僅僅是中國：歐盟正在其邊境試行一種“虛擬代理”，有些人稱之為“人工智慧測謊儀”。 美國政府也在部署類似的系統。 公司要多久才會開始衡量客戶服務代理是否笑容足夠？ 從銷售汽水到強制執行情感合規，這似乎是一個巨大的飛躍，而且這些技術肯定會有一些積極的用途。 但是，推動它們的人傾向於強調積極方面，而淡化潛在的負面影響。 還記得Facebook早期的美好時光嗎？
如果Data能夠感受到人類的情感，他可能會對貪婪和權力在人類社會中的重要性感到驚訝——而“情感人工智慧”，除非得到適當的監管，否則可能成為社會控制的關鍵工具。 這應該讓我們所有人都不高興。