本文發表在《大眾科學》的前部落格網路中，反映了作者的觀點，不一定反映《大眾科學》的觀點
“人是產品”這句話已經變得老生常談。 這告訴你有些不對勁。它暗示著一些相當可惡的想法的正常化。買賣人讓人想起奴隸制。它把人貶低為事物、物體、資源或僅僅是手段。正如我們中的一人（德文·德賽）寫道：“把人當作一種資源是[一個根本的]錯誤。” 不知何故，在我們看來，當交換媒介是數字資料和人類注意力時，這些負面聯想就會神奇地消失。
我們需要審視個性化在將人程式設計為產品中所起的作用。因此，讓我們考慮一下輸入（刺激、選擇架構、資訊、誘因）的個性化如何實現輸出（反應、行為、信念，甚至人）的標準化。
一些熟悉的例子表明，個性化如何導致同質行為。假設我們想誘導一群人表現出相同的行為。我們可能會個性化誘因。例如，如果我們希望誘導人們為救災基金捐款 100 美元，我們可能會個性化傳送給他們的訊息。如果我們希望促使人們去看醫生進行年度體檢，或者我希望讓他們點選廣告，情況也是如此。有效的個性化廣告會產生相當機械的反應：點選。簡而言之，個性化刺激可能是產生同質反應的有效方法。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。 透過購買訂閱，您正在幫助確保未來有關塑造我們當今世界的發現和想法的有影響力的故事。
這種個性化輸入到同質輸出 (“PIHO”) 的動態在數字網路環境中非常普遍。 數字科技公司希望產生什麼樣的同質輸出？ 通常，公司將他們的目標描述為“參與”，這聽起來很不錯，好像使用者正在非常重要的活動中積極參與。但他們的意思要狹隘得多。“參與”通常指的是一套狹隘的做法，這些做法直接或透過其與廣告商、資料經紀人、應用程式開發商、人工智慧培訓師、政府等方面的輔助協議，為公司產生資料和收入。
例如，Facebook 在一個經過最佳化的平臺上提供高度個性化的服務，以產生和加強一系列簡單的響應——滾動提要、點選廣告、釋出內容、點贊或分享帖子。這些操作會產生資料、廣告收入和持續的關注。並不是說人們總是執行相同的操作；這種程度的同質性和社會控制對於 Facebook 的利益或我們的擔憂來說都不是必要的。相反，對於很多人來說，大部分時間裡，行為模式都符合 Facebook 設計的“參與”指令碼。
許多其他平臺、服務和應用程式也可以講述一個非常相似的故事。當然，商業模式、策略甚至“參與”的含義各不相同，但 PIHO 仍然是一種始終如一的邏輯。它是弗雷德里克·泰勒的“對人類進行科學管理”、B.F. 斯金納的操作性條件反射和現代行為工程方法（例如助推）的有力結合。
PIHO 需要個人資料和足夠的手段將這些資料轉化為有效的誘因和強化。換句話說，從收集的資料中獲得的關於一個人的任何智慧都必須是可操作的，並且會影響這個人的行為。
某些型別的資料對於誘導和強化所需的響應/行為比其他資料更有用，並且不同資料型別的相對效用可能因人而異，也可能因情境而異。毫不奇怪，許多數字科技公司儘可能多地收集資料，要麼直接從消費者那裡收集，要麼間接從資料經紀人或與他們有輔助協議的合作伙伴那裡收集。他們對消費者進行實驗。他們使用各種資料處理技術來識別模式、測試假設，並瞭解人們的行為方式、他們與誰互動、他們說什麼和做什麼，以及什麼最能塑造他們的行為以符合公司的利益。
例如，公司會繪製使用者的社交圖譜，以瞭解他們的關係，包括對個人產生不同影響的強度。正如想要推動人們投票或報稅的選擇架構師可能會讓他們知道有多少鄰居已經這樣做了，社交媒體公司可以利用社交圖譜見解來誘導人們登入、建立帖子、閱讀帖子、分享帖子等等。刺激可能很簡單，一封個性化的電子郵件告訴使用者，朋友在帖子中標記了他們。目標是讓使用者訪問網站（或應用程式），以便使用者發表評論、發帖或標記。希望使用者看到廣告並點選，閱讀並分享帖子，玩遊戲。簡而言之，他們的理想是使用者做任何能夠加深保持登入狀態和使用服務的行為的事情。如果發生這種情況，公司就成功了。它已經誘導並加強了參與。
當數字科技公司提供個性化服務和內容時，總會有一個反饋迴圈。他們不斷收集資料並瞭解你，以為服務提供動力。但這只是需要注意的第一個迴圈。其他反饋迴圈跨越各個領域並跨越網路環境；數字科技公司之間通常有輔助協議。你是否注意到你訪問的網站上的那些 Facebook、Twitter 和其他按鈕？你是否曾經使用你的社交媒體憑據登入其他網站？（如果你真的想檢視反饋迴圈以及資料如何流動，請檢視你在 Facebook 上的廣告偏好。）
數字平臺上 PIHO 的棘手之處在於，個性化的刺激在某種程度上確實滿足了使用者的利益。換句話說，個性化直接使使用者受益，因為他們獲得了根據自己的偏好定製的新聞、狀態更新、影片和其他刺激。畢竟，誘導“參與”需要使用者獲得他們想要的東西。但這並不意味著個性化的好處完全或主要流向使用者。個性化使得服務和編寫行為都更便宜、更容易。
它甚至可以更深入。反饋效應和重複和持續的參與可以（但不是必須）塑造信念、期望和偏好。當與主要由行為資料（不一定是個性化的）指導的設計和工程實踐相結合時，就會出現成癮、依賴和一系列其他問題。在當下，人們可能會感到滿足，但這並不意味著當他們反思自己的行為時，他們會喜歡自己成為什麼樣的人或什麼東西。
參與可能意味著更多，對人類來說是偉大的事情，數字網路技術可以追求這種參與，但這並不是我們在現代數字網路世界中真正得到的。理論上，數字科技可以以符合你興趣的方式個性化商品和服務。相反，他們主要追求自己的利益，並迎合市場另一方的利益——即那些支付賬單的人——廣告商、收集資料和訓練人工智慧的合作伙伴、政府等。有人可能會說，這只是資本主義在起作用，這沒錯。但這並不能證明這種做法是合理的。也不能為將人視為需要標準化的產品而可能造成的非人化後果開脫責任。數字科技公司採用——更糟糕的是，延續——一種貧乏的觀點，認為人類是可預測的、被動的消費者，他們（可以被訓練成）按照標準化指令碼行事。在那個世界裡，我們只不過是可程式設計的齒輪。
我們需要改變不僅允許而且還促成和鼓勵這種做法的社會指令碼。