2006年，數學家克萊夫·亨比將資料稱為“新石油”——一種原材料，一旦提煉，將為數字經濟提供燃料。從那時起，大型科技公司花費了鉅額資金來磨練演算法，這些演算法收集使用者的資料並對其進行篩選以尋找模式。其中一個結果是精準定位線上廣告的蓬勃發展。另一個是一些專家稱之為“演算法個性化定價”的做法，它使用人工智慧為個人消費者量身定製價格。
聯邦貿易委員會對此使用了更具奧威爾色彩的術語：“監視定價”。
7月，聯邦貿易委員會向八家公司發出了資訊徵詢命令，這些公司“公開吹捧他們使用人工智慧和機器學習進行資料驅動的目標定位”，該機構首席技術官斯蒂芬妮·阮說。這些命令是旨在瞭解這種做法的規模、正在收集的使用者資料型別、演算法價格調整可能對消費者的影響以及是否可能涉及串通或其他反競爭行為的一部分。“使用監視技術和私人資料來確定價格是一個新的領域，”阮說。“我們希望讓更多關於這種做法的資訊公之於眾。”
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和思想的具有影響力的故事的未來。
這些命令可以像傳票一樣強制執行，要求這八家公司在9月2日前提交報告，概述其監視定價 практики。收到命令的公司之一Revionics，構建了人工智慧驅動的系統，其網站稱之為“價格最佳化解決方案”。Revionics公司全球傳播副總裁克里斯汀·米勒表示，Revionics“絕不開展與監視消費者相關的業務”。受到審查的其他公司包括萬事達卡、摩根大通、電子商務平臺Bloomreach、諮詢公司埃森哲和麥肯錫公司，以及軟體公司TASK Software和PROS。這八家公司均未被聯邦貿易委員會指控有任何違法行為。
該機構正在進行的調查是由人們日益認識到，公司正在使用人工智慧和機器學習來跟蹤某些類別的使用者資料——例如年齡、位置、信用評分或瀏覽歷史——而許多人可能不會故意分享這些資料而引發的。
“令人恐懼的是，一家公司可能會知道一些關於我的事情，而我根本不知道他們可以找到，而且我永遠不會授權，”芝加哥大學布斯商學院營銷學教授讓-皮埃爾·杜貝說。“這些是聯邦貿易委員會可能真的有所發現的事情。”他說，如果公司正在部署人工智慧來收集消費者不知情的情況下分享的資訊，那麼價格可能會沿著“不可接受的維度”進行個性化。
阮補充說，消費者監視不僅限於線上購物。“公司正在投資基礎設施，以即時監控實體店的顧客，”她說。例如，一些價格標籤已經數字化，旨在根據有效期和顧客需求等因素自動更新。零售巨頭沃爾瑪——未受到聯邦貿易委員會的調查——表示，其新的數字價格標籤可以在幾分鐘內遠端更新。電子商務平臺Instacart提供人工智慧驅動的“智慧購物車”：可以用來掃描商品的實體購物車，並配備了顯示個性化廣告和優惠券的螢幕。
電影票和抵押貸款
監視定價是更古老 практики“個性化定價”的現代迭代——根據對顧客支付意願的估計來調整價格。公元前2000年，在集市上賣水果的商販可能會向富裕的地主收取比農民更高的價格，就像現代汽車銷售員不太可能向開著保時捷來的人提供與騎著破舊腳踏車來的人相同的交易一樣。靈活地根據個人顧客的預算調整價格可以最大化利潤，並且可以為可能因價格過高而被排除在市場之外的低收入消費者開啟大門。教育就是一個說明性的例子：大學有時會為來自不同背景或社會經濟地位較低的學生提供更強大的資助方案，以最大限度地提高公平性和多樣性。進一步的潛在消費者利益證據來自杜貝進行的一項研究，該研究涉及兩家電影院，這兩家電影院都向靠近競爭對手的顧客提供折扣。（A電影院會向住在B電影院附近的影迷提供廉價電影票，反之亦然。）結果是雙贏：兩家電影院最終都吸引了更多顧客，而顧客又透過減少電影票支出而省錢。
然而，這種方法在其他市場中並不總是奏效。當個性化定價應用於房屋抵押貸款時，低收入人群往往支付更多——而且演算法有時會使情況更糟，例如，根據對借款人風險評級的無意歧視性自動估計，提高利率。
演算法現在正在將個性化定價從可觀察的領域帶到一個更加陰暗的領域。從歷史上看，這種做法主要基於可觀察的特徵和透過面對面互動收集的資訊。因此，顧客可以嘗試玩弄系統：為了尋求更好的交易，一個更富有的人在購買新車時可能會把保時捷和阿瑪尼西裝留在家裡。但在一個基本上不受監管的資料收集（至少在美國）和人工智慧處理能力的世界中，品牌可能會以更隱蔽的方式調整價格，這些方式更難繞過。
例如，假設您正在一個利用人工智慧來個性化顧客所看到價格的網站上線上購買新的咖啡機。該演算法可能會考慮您的瀏覽歷史（您一直在搜尋很多新的咖啡機）、您最近的購買記錄（您是經常喝咖啡的人，並且兩年前購買了一臺意式咖啡機）、一天中的時間（現在是深夜，您的歷史記錄顯示您更容易衝動購物）以及您的位置（您所在地區沒有很多銷售咖啡機的實體店）。總而言之，這些因素可能意味著您此時更有支付意願——因此，您看到的價格略高。與此同時，另一個正在購買他們的第一臺咖啡機並且可能對深夜消費有點節儉的人可能會看到同一臺機器的價格更低。
換句話說，您的支付意願可以根據精細的人口統計資訊和微妙的行為模式來衡量，其中一些您可能沒有意識到是公開可用的。哈佛法學院教授奧倫·巴爾-吉爾l說：“即使這種現象本身非常古老，演算法也允許賣家達到他們以前從未能夠達到的差異化水平。”他曾研究過演算法在消費者市場中的影響。
但這是否是反烏托邦？
一些專家反對聯邦貿易委員會使用“監視”一詞，認為這可能暗示對隱私的無視。儘管該機構的命令以其五名兩黨專員罕見的一致投票透過，但有些人對這種措辭持保留態度。“這個術語的負面含義可能暗示個性化定價必然是一種邪惡的做法，”聯邦貿易委員會專員梅麗莎·霍利約克在一份官方宣告中寫道。“在我看來，我們應該小心使用中立的術語，不要暗示對難題的任何預先判斷。”
一些為本文接受採訪的專家也呼應了這一謹慎態度，他們同意聯邦貿易委員會在對待監視定價時應保持開放的心態。也許這種情況需要更多地強調透明度，而不是全面打擊所有使用演算法來個性化價格的做法。這種做法甚至可能具有該機構尚未完全理解的優勢。透過米勒，Revionics辯稱，它使用人工智慧來尋找對消費者和零售商都有利的價格。
哈佛法學院教學研究員哈蓋·波拉特說：“資料以某種方式使用可能意味著我們應該告知消費者，以便他們知道，並且他們[可以]決定是否要同意……並與該賣家互動。”他曾研究過演算法個性化定價的影響。“但這不應導致我們得出結論，認為這種做法本身對消費者必然是不利的。”