一、資訊不完善
關注事實通常是清晰瞭解複雜或難以捉摸的主題的有效第一步。但在隱私問題上，我們無法獲得事實。那些減少我們隱私的人，無論是國家行為者還是商業行為者，都希望我們不要減少他們的隱私。《國家安全域性》（NSA）長期以來一直隱瞞其大規模電子監控行動的全部範圍。即使在最近前國家安全域性承包商愛德華·斯諾登洩密事件之後，我們也只能大致瞭解正在發生的事情。
在當今世界，沒有哪個觀察者能全面瞭解誰收集了關於誰的哪些資料。某些組織，如國家安全域性，比任何人都知道得多，但即使是他們也不知道商業和政府實體已應用於個人資料的全部演算法範圍或其效果。
因此，隱私目前是一個模糊不清的話題，只能以前科學的方式進行調查。我們必須比我們可能更願意地依賴理論、哲學、內省和軼事。但這並不意味著我們不能思考。
關於支援科學新聞
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和思想的有影響力的故事的未來。
二、什麼是隱私？
隱私哲學是一種文化徽章。在 New Mexico 長大期間，我夏天曾與一些當地的普韋布洛人住在一起。他們抱怨說，人類學家對他們文化的破壞比傳教士更大，因為是人類學家公佈了他們的秘密。然而，告訴我這件事的那對老夫婦有一個兒子成為了人類學家。與此同時，在美國的中國學生過去常常不敲門就闖入房間，無法理解為什麼這是不可接受的。這種情況已經改變，中國也發生了變化。
如今，年輕人和技術愛好者有時被認為比他們的長輩更不關心隱私。一個在沒有可穿戴計算裝置的世界中長大的人，當面對面戴式攝像頭時，更有可能感到受到侵犯。Facebook 等公司因使年輕人習慣國家安全域性和其他情報機構的活動而受到批評或讚揚。最強烈地從基層倡導隱私的群體可能是槍支擁有者，他們擔心被列入政府名單最終可能導致他們的槍支被沒收。
儘管對隱私的態度各不相同，但關於政策問題的討論通常會引出關於權衡的討論。如果國家必須能夠分析每個人的個人資訊，以便在恐怖分子採取行動之前抓住他們，那麼個人就不能同時享有隱私和安全。或者至少這是經常被提出的權衡方式。
以這種方式思考隱私有些不對勁。從權衡的角度來看，隱私不可避免地最終被定義為一種文化認可的戀物癖——成人的安全毯。人們“願意放棄”多少隱私來換取某些好處？這種表述隱含著這樣一種觀念，即對隱私的任何渴望都可能是一種時代錯亂，就像人類視網膜中的盲點一樣。這類似於詢問患者為了治癒嚴重的疾病願意喝多麼難喝的藥。這意味著患者應該停止如此嬌氣。一種相關的說法認為，如果人們“願意分享更多”，他們就可以享受更多便利或在線上網路中創造更多價值。
很容易因為主觀感受反覆無常而對其不予理睬，但這可能是一個錯誤。如果不同的人或文化在隱私方面保持不同的做法有價值呢？畢竟，文化多樣性應被視為內在的優點。否則，就意味著文化、思想和資訊習慣已經儘可能地好了——只有一種關於隱私的立場，無論它是什麼，才是正確的。生態學家永遠不會認為進化已經結束。也許，並非所有人都應該被納入單一的資訊倫理。也許人們應該可以自由選擇不同程度的隱私。
三、隱私即權力
在資訊時代，隱私已經赤裸裸地意味著，資訊對某些人可用，但對另一些人不可用。隱私是決定誰能更多地掌握控制權的標準。
資訊一直是財富和權力競爭中的重要工具，但在資訊時代，它是最重要的工具。資訊霸權變得越來越難以與金錢、政治影響力或任何其他衡量權力的標準區分開來。最大的金融計劃也是計算量最大的；見證高頻交易的興起。大型計算不僅使個別公司受益，而且還產生了宏觀經濟影響，因為它令人印象深刻地擴大了金融部門的規模。谷歌和 Facebook 等公司除了出售旨在提高我們仍然稱之為“廣告”的有效性的計算外，什麼也不賣，儘管這個術語與透過修辭或風格進行說服越來越無關。相反，它已經變成了直接調整人們方便接觸到的資訊。同樣，現代選舉依賴於大規模計算來找到可說服的選民並激勵他們出來投票。隱私是個人與國家之間以及商業或政治利益之間權力平衡的核心。
這種狀況意味著，除非個人能夠保護自己的隱私，否則他們就會失去權力。隱私已成為一項基本的個人職責，但大多數人都沒有接受過執行這項職責的培訓。知情人士在資訊時代能更好地保護自身安全（例如，透過阻止身份盜竊）。因此，社會對某種技術傾向型的人產生了偏見——不僅在就業市場，而且在個人生活中也是如此。
一些網路活動家認為，我們應該完全消除秘密。但宣稱分享很棒的年輕技術人員通常痴迷於阻止侵擾大多數網站的間諜機器人，或使用加密技術進行電子通訊。在這方面，年輕的技術人員和最大的科技公司是相似的。Facebook 及其競爭對手向用戶宣揚開放性和透明度，但將這些使用者的預測模型隱藏在黑暗的地下室裡。
四、殭屍威脅
我們被一群異常善良的技術精英所詛咒。執行提供社交網路或網路搜尋等現代服務的巨型雲計算公司的大多數年輕人，以及他們在情報界的同行，在很大程度上都是善意的。要想象事情會變得多麼糟糕，我們必須想象這些迷人的技術人員變成心懷怨恨的長者，或者將他們的帝國讓給未來幾代有權勢、無知的繼承人。這應該不難理解，因為這種情況在人類歷史上通常是常態。當您認識一些在我們以計算為中心的時代蓬勃發展的善良技術人員時，這樣想會讓人感到冷酷無情。但如果我們想要對技術有任何遠見，我們就必須盡力進行黑暗的思考。
如果一個擁有足夠龐大計算機的觀察者獲得了關於某人的足夠個人資訊，那麼該觀察者理論上可以預測和操縱該人的思想和行為。如果今天的聯網裝置可能無法勝任這項任務，那麼未來的裝置將會勝任。因此，假設未來某一代超便捷的消費電子產品採取了頸後貼片的形式，可以直接接入大腦，以便在自我意識之前就知道自己將要考慮去哪家附近的咖啡館。（為這種最黑暗的困境帶來緩解已成為我們這個時代消費技術的規範性挑戰。）
建立此類服務的許多元件已經存在。在加州大學伯克利分校神經科學家傑克·加蘭特等人的實驗室中，僅僅透過執行“大資料”統計，將當前的腦功能磁共振成像測量結果與之前的測量環境相關聯，就已經可以推斷出某人正在看到什麼，甚至想象什麼，或即將說什麼。因此，僅僅基於統計資料，就已經完成了某種程度的讀心術。
現在讓我們假設，在佩戴這種超便捷裝置的同時，您即將決定去一家咖啡館，只是您自己還不知道。並且讓我們假設某個實體——未來的 Facebook 或國家安全域性——可以訪問該裝置，並且有興趣引導您遠離咖啡館 A 而前往咖啡館 B。就在您即將考慮咖啡館 A 時，您老闆發來的一條令人煩躁的訊息突然出現在您的抬頭顯示器中；您變得心煩意亂和沮喪，並且去咖啡館 A 的想法實際上從未出現在腦海中。與此同時，關於咖啡館 B 的想法從某個約會網站上的所謂熱門潛在客戶那裡釋出了一條推文。您的心情變得開朗；咖啡館 B 突然看起來是個好主意。您已經成為完全在前意識區域發生的巴甫洛夫式新操縱的物件。
這個在科幻小說中由來已久的思想實驗的重點是，計算和統計可以有效地模擬精神控制。可以認為，在未來幾年內，雲驅動的推薦引擎在越來越私密的行動式裝置中的體制可能會使我們部分地接近剛剛描述的精神控制情景。
五、無能瘟疫
講述一個警示性的科幻故事的傳統而有趣的方式是，構想一個變得無所不能的邪惡反派。與其考慮那種潛在的黑暗未來，我將重點關注一種不僅更有可能，而且已經以早期形式顯現的情景。它與其說是一個由能力超強的惡棍精心策劃的邪惡計劃，不如說更像是一場模糊的無能瘟疫。
在這種情景中，一個實體，或者說一個行業，將投入大量資源來演算法化地操縱大眾以追求利潤。這種追求最初確實是有利可圖的，儘管它最終會變得荒謬。這種情況已經發生了！看看美國醫療保險公司為避免為高風險客戶投保而進行的大規模統計計算就知道了，這在短期內是一種有利可圖的策略——直到出現大量無法投保的人。社會無法吸收該計劃的成功。演算法隱私破壞作為獲取財富和權力的一種手段，似乎總是以類似的巨大失誤告終。
考慮一下現代金融的狀況。依賴大規模統計計算的金融計劃最初往往是成功的。有了足夠的資料和計算，就有可能推斷出證券的未來、人的行為，或者實際上是世界上任何平穩變化的現象——在一段時間內。但大資料方案最終會失敗，原因很簡單，統計資料孤立地看，永遠只代表現實的片段映象。
直到 21 世紀初，大資料金融才基於侵犯個人隱私（例如，透過對個人進行建模並使用愚蠢的抵押貸款和信貸優惠來針對他們）。在此之前，它更抽象。對證券進行建模，並自動管理對證券的投資，而無需瞭解實際在現實世界中做了什麼。總部位於康涅狄格州格林威治的對沖基金長期資本管理公司就是一個早期例子。它曾是一顆耀眼的明星，直到 1998 年倒閉，需要納稅人進行鉅額紓困。（高頻交易方案現在正以更大的資料和更快的計算重新啟動這種模式。）然而，現在，高度自動化金融的大部分世界都依賴於與間諜活動或消費者網際網路相同的個人隱私大規模蒸發。最終導致大衰退的抵押貸款支援證券將個人隱私侵犯與自動化交易方案結合在一起。又一次宇宙規模的公共支出紓困發生了，毫無疑問，未來還會發生類似的紓困。
這不是一個超強精英接管世界的故事。相反，這是一個包括巨型雲服務最成功的運營商在內的所有人，都在努力理解正在發生的事情的故事。侵犯其他所有人的隱私最初是有效的，可以透過計算創造財富，但隨後它會失敗。這種模式已經造成了金融危機。未來，當任何執行最有效的計算機並掌握最多個人資料的人，都可能比社會中的任何人都更能實現對全體人口的更大程度的預測和操縱時，後果可能會更加黑暗。
六、大資料的真正衡量標準
當有人推銷一種服務的能力時，該服務收集和分析關於大量其他人的資訊，他們往往會採取一種愚蠢的、極端的自吹自擂。用我多次聽到的那種推銷方式來釋義，“在不久的將來，如果還不是現在，巨型計算機將能夠如此出色地預測和定位消費者，以至於商業將變得像開啟開關一樣容易。我們的大型計算機將像磁鐵吸引鐵屑一樣吸引金錢。”
例如，我曾在場，一家希望被大公司收購的矽谷初創公司聲稱能夠透過分析女性點選的連結來跟蹤她的月經週期。該公司表示，然後它可以利用這些資訊，在女性更容易接受推銷的特殊時間視窗，向她銷售時裝和化妝品產品。這個方案可能在某種程度上是有效的，但因為它純粹依賴於統計資料，而沒有科學理論的支援，所以不可能知道那個點在哪裡。
同樣，當出售一種收集公民資訊的系統時，政府機構——或者更可能是為該機構服務的私人承包商——可能會做出關於透過觀察和分析整個世界，在罪犯或恐怖分子發動襲擊之前抓住他們的花哨宣告。此類計劃的術語（例如“全面資訊意識”）揭示了對上帝般的、無所不知的至高點的渴望。
科幻小說已經思考這類事情幾十年了。《少數派報告》就是一個例子，這是一部電影，根據菲利普·K·迪克 1956 年的短篇小說改編，多年前我曾幫助集思廣益。預犯罪部門在罪犯有機會行動之前就抓住了他們。但讓我們明確一點：這並不是巨型資料收集和分析系統實際所做的事情。
此類系統的創造者希望，有一天元資料將支援一種巨型版本的“自動完成”演算法，這種演算法可以猜測我們打算在智慧手機上輸入什麼。統計算法將填補資料中的漏洞。藉助這些演算法，研究犯罪組織的元資料應該能引導我們找到新的、以前未知的關鍵成員。
但到目前為止，至少似乎沒有證據表明元資料探勘阻止了恐怖主義行為。在我們瞭解的所有案例中，具體的人工智慧促使了直接調查，從而找到了嫌疑人。事實上，當來自各種巨型雲計算專案（無論是私營還是政府）的負責官員描述他們所做的事情時，這些說法很快就變得腳踏實地，尤其是在仔細閱讀的情況下。是的，一旦有關於潛在恐怖主義陰謀的線索，就可以藉助手頭現成的大型資料庫更快地連線各個點。但資料庫首先並沒有找到線索。
如今，人們經常看到一種客廳把戲：對歷史事件進行事後分析，聲稱大資料本可以檢測到陰謀中的關鍵人物，並在他們發生之前。一個例子是對保羅·列維爾同時代人的演算法分析表明，列維爾是社交網路中的一箇中心連線人物。這種情況下的資料是他在美國獨立戰爭前夕加入各種組織的情況。首爾國立大學社會學家韓信甲證明，分析一個相當小的革命前各種組織的成員資格資料庫，就可以將列維爾單獨列為獨特的連線人物。最近，杜克大學社會學家基蘭·希利獨立地從代表相同事件的略有不同的資料庫中得出了類似的結果。
果然，保羅·列維爾就在那裡，位於連線其他個人的叢集的中心。這些結果宣傳了元資料在安全方面的應用。儘管如此，在確信此類研究可以預測事件發生之前，還需要考慮幾個因素。
列維爾顯然處於一個特殊的位置，可以成為某件事的關鍵人物。然而，在沒有任何歷史背景的情況下，我們不會知道那件事可能是什麼。類似的中心地位可能會歸屬於能夠採購最好的麥芽酒的個人。元資料只有在透過其他資訊來源進行情境化時才有意義。統計資料和圖表分析不能替代理解，儘管它們似乎總能在短時間內替代理解。
危險在於，大資料統計可能會產生一種自動安全生成機器的錯覺，類似於華爾街一直在追逐的有保障的財富機器的錯覺。關於我們私人生活的大量資訊正在被儲存、分析和處理，而事先並沒有證明其有有效的用途。
七、軟體即法律
人們經常聽到這樣的說法：“網際網路和透過網際網路進行通訊的眾多新裝置將使個人隱私過時。” 但情況並非一定如此。資訊科技是工程設計的，而不是發現的。
誠然，一旦建立了一個網路架構，許多使用者和實際上無數互連的計算機都依賴於它，就很難實現更改。該架構變得“鎖定”。然而，我們數字網路中隱私的本質尚未完全鎖定。我們仍然有潛力選擇我們想要的東西。當我們談論隱私與安全或隱私與便利之間的重大權衡時，就好像這些權衡是不可避免的。就好像我們忘記了關於計算機最基本的事實：它們是可程式設計的。
因為軟體是人們連線和完成工作的方式，所以軟體允許什麼就是允許什麼，軟體不能做什麼就不能做。對於政府來說尤其如此。例如，作為平價醫療法案或奧巴馬醫改的一部分，在某些州，吸菸者在理論上將比不吸菸者支付更高的醫療保險費用。之所以只是“在理論上”，是因為美國醫療保健融資新法律框架的執行軟體並非旨在適應吸菸者的懲罰。因此，該法律將不得不生效，但沒有懲罰，等待未來某個時刻軟體被重寫。無論任何人對該法律有何看法，決定實際發生什麼的是軟體。
吸菸者懲罰的例子僅僅暗示了一個更大的問題。實施奧巴馬醫改或任何其他社會規模專案的軟體中的怪癖，可能比政治家的意圖更能決定社會中個人的經歷。
八、當我們不知道自己在做什麼時，如何設計未來
關於如何從大資料中獲得價值，同時又不會以侵犯隱私的形式造成過多的附帶損害，主要有兩種思想流派。一種是尋求闡明和執行新的法規。另一種是尋求促進普遍透明，以便每個人都可以訪問所有資料，並且沒有人會獲得不正當的優勢。這兩種努力在很大程度上是朝著相反的方向拉扯。
隱私法規的問題在於，它們不太可能被遵守。大資料統計成癮，而隱私法規就像毒品或酒精禁令。與國家安全域性相關的定期洩密事件中，一個令人沮喪的方面是，即使是該組織接受的秘密規則和法規似乎也是徒勞的。例如，國家安全域性僱員利用他們的職位監視浪漫物件。儘管如此，也許一些新的法規和監督可以起到一些作用。
但是，相反的想法——使資料開放更加普遍——又如何呢？這種方法的問題在於，重要的不僅僅是訪問資料。更重要的是用於分析這些資料的計算能力。總會有人擁有最有效的計算機，而這個人不太可能是你。抽象的開放只會加劇問題，因為它提高了擁有最大計算機的動機。
讓我們將開放的理想推向邏輯上的極端。假設國家安全域性明天公佈其所有內部伺服器和帳戶的密碼。任何人都可以去看看。谷歌及其競爭對手會立即抓取、索引和分析國家安全域性儲存的海量資料，其效果比你更好，並且他們很樂意從客戶那裡賺取財富，這些客戶將利用這項工作找到某種方法來操縱世界以對他們有利而不是對你有利。請記住，原始的大資料不會帶來權力。帶來權力的是大資料 + 最有效的計算機，而這些計算機通常是你不擁有的巨型計算機。
還有第三種選擇嗎？資訊應該是免費的，這在商業意義上幾乎是普遍接受的智慧。人們不應該為此付費。例如，這就是允許矽谷巨型線上公司如此迅速崛起的原因。
值得重新考慮這種正統觀念。允許資訊具有商業價值可能會澄清我們的處境，同時為隱私問題帶回個性、多樣性和微妙性要素。
如果個人在其存在產生的資訊被使用時獲得報酬，那麼這可能會消除建立註定要失敗的宏大大資料方案的動機。資料方案必須透過增加價值而不是利用個人擁有的資訊來對付他們來賺錢。
這是一個微妙的概念，我一直在與帕洛阿爾託研究中心和聖達菲研究所經濟學家 W. Brian Arthur 以及斯坦福大學研究生 Eric Huang 合作對其進行詳細探索。Huang 擴充套件了最被接受的保險業務模型，以瞭解當資訊具有價格時會發生什麼。雖然結果很複雜，但一個總體模式是，當保險公司必須為人們的資訊付費時，他們就不能像以前那樣容易地挑肥揀瘦，因此他們將承保他們原本會排除在外的人。
重要的是要強調，我們不是在談論將利益從大人物重新分配給小人物；相反，這是一個雙贏的結果，每個人都會因為經濟穩定和增長而做得更好。此外，不可能有足夠的政府檢查員來確認隱私法規是否得到遵守，但今天使市場可行的大批私人會計師可能可以處理它。
如果資訊被視為具有商業價值的東西，那麼商業公平原則可能會解決其他方面與隱私相關的無法估量的困境。在我們當前的世界中，很難在沒有重要技術技能的情況下為自己建立中間級別的隱私。非技術人員必須加入或不加入社交網路，並且可能會發現難以管理隱私設定。然而，在付費資訊的世界中，一個人可能會上下調整其資訊的價格，從而找到合適的灰色陰影。它所需要的只是調整一個數字，即價格。
有人想用面戴式攝像頭給您拍照？從理論上講，他們可以，但要實際檢視照片，對其進行任何操作，都可能花費令人望而卻步的金額。個人可能會因為將其資訊的價格設定得過高而錯過一些好處，但這是一種即使在到處都連線著大型計算機的感測器的情況下也能實現文化多樣性的方法。
還有一個政治角度：當資訊免費時，政府就會作為人民的間諜而獲得無限的資金，因為人民不再擁有錢包的權力作為設定政府範圍的手段。為資訊定價，人民可以透過簡單地設定稅率來決定政府可以負擔多少間諜活動。
這個最簡短的介紹只能暗示付費資訊的想法，即使我再寫更多頁，仍然會存在許多問題，但對於其他選擇也是如此。在大資料時代，解決隱私困境的任何方法，無論是激進的開放還是新的監管，都還不成熟。
非常值得尋找機會來測試所有擺在桌面上的想法。網路工程師還應構建任何我們能想到的軟體“鉤子”，無論它們是否會被使用，以便網路軟體能夠支援未來關於付費資訊、加強監管或普遍開放的想法。如果我們可以做到，就絕不能排除任何可能性。
我們這些構建大資料系統和連線到這些系統的裝置的人面臨著一個棘手的情況，隨著技術的進步，這種情況只會變得更加普遍。我們有非常充分的理由做我們所做的事情。大資料可以使我們的世界更健康、更高效和更可持續。我們絕不能停止。但與此同時，我們必須知道我們還不夠了解，無法第一次就做對。
我們必須學會表現得好像我們的工作始終是初稿，並且始終盡最大努力為它被重新考慮，甚至被徹底重做奠定基礎。