想象一下一個反烏托邦的、不遠的將來，我們每個人都居住在自己的人工智慧驅動的數字過濾器氣泡中，這些氣泡專門為我們量身定製，旨在服務於企業利益。這個未來類似於1998年的《楚門的世界》，其中由金·凱瑞飾演的同名主角，在自己毫不知情的情況下，一生都生活在一個真人秀節目中，他的每一次經歷都由製片廠精心策劃。
人工智慧的一個子集，大型語言模型，不會把我們的生活變成真人秀節目——沒那麼幸運。相反，個性化的人工智慧代理威脅著將我們每個人囚禁在一個個性化和虛幻的非現實中，收割我們的數字貨幣，並將我們與與他人的真正聯絡隔離開來。
我們正在順利地朝著這個方向發展。10月份的測試版釋出的Apple智慧可能是我們與人工智慧關係中的一個分水嶺時刻：這個新版本將為全球超過十億人提供高度可訪問的大型語言模型體驗。但蘋果只是眾多公司之一，包括OpenAI、谷歌和許多初創公司，它們都在開發個性化、定製化的大型語言模型。
支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和想法的具有影響力的故事的未來。
這種所謂的個性化對齊背後的原則是，人工智慧模型將瞭解個人使用者——他們知道什麼和不知道什麼，他們的喜好和厭惡，他們的價值觀和目標，他們的注意力持續時間和喜歡的媒體形式——並據此進行調整。
目的是在每個使用者和網際網路上的海量資訊之間放置一個定製的人工智慧，找到他們想要的資訊，重新包裝它以符合他們的品味和背景知識，並將其傳遞到他們的螢幕上。如果這個專案成功，我們將進一步分裂對世界形成集體認知的能力。我們將不再居住在幾個相互競爭的過濾器氣泡之一中；我們每個人都將處於自己的私人過濾器氣泡中。
這是在最佳情況下，系統完全為了使用者的利益而設計。但當然，它們不太可能保持良性。與網際網路上的一切一樣，它們將變得“垃圾化”，被科技行業利用來將我們與我們的金錢分離，同時囤積我們的注意力。
考慮一下像大學橄欖球這樣的美國傳統。您是俄亥俄州立七葉樹隊的超級粉絲嗎？您是否花費大量時間點選俄亥俄州立橄欖球隊的新聞報道、購買俄亥俄州立商品的商品、訂閱俄亥俄州立的影片、播客和新聞源？您將在所有裝置上全天候收到此類資訊。一些演算法甚至會學習您的日常安排並做出相應的反應，在您最有可能檢視資訊的時間準確地向您推送資訊。
撇開足球的競爭不談，這聽起來可能無害（雖然很無聊）；在許多方面，這已經描述了我們的線上體驗。Facebook、X、Instagram、谷歌等的使用者跟蹤演算法已經跟蹤我們的興趣和習慣，以選擇填充我們螢幕的內容。但下一步是釋放大型語言模型，以生成專門為我們每個人和我們的興趣量身定製的模因，甚至是整篇文章，其目的僅僅是為了讓我們保持對諸如偽裝成資訊廣告之類的內容的參與，這將增加我們購買商品的機率。
大型語言模型將建立關於您最喜歡的大學橄欖球隊、他們的招募過程以及即將到來的賽季前景的完整文章。您將收聽聽起來像體育談話廣播的人工智慧生成的播客。您將收到關於競爭對手橄欖球隊的陰謀論：例如，他們如何參與招募違規行為，他們如何作弊，他們的教練組成員如何與可卡因帝國聯絡在一起。
至少出於兩個原因，這是一個悲慘的現實；首先，沒有計算方法或道德激勵機制來確保您收到的資訊是真實的。當然，這項事業的目標不是描繪現實。大型語言模型將生成哲學家在其技術術語中稱之為“胡說八道”的東西。它們旨在聽起來貌似可信和權威，而不是在事實上準確。
但與公然無視真相一樣可怕的是一個更可怕的因素。我們假設的俄亥俄州立橄欖球迷將不再生活在對大學橄欖球的準確理解中，這種理解與任何其他人的理解完全相容——甚至與其他俄亥俄州立橄欖球迷也不相容。這位球迷將只執行專門為自己生成的資訊。大型語言模型已經非常高效，以至於重用內容是不必要的——為什麼為兩個人生成相同的文章，而大型語言模型可以輕鬆地建立兩篇專門為每個人量身定製的文章？即使在談論體育和娛樂時，這種願景也令人不安。但是，對於具有更直接社會後果的機構呢？宗教？教育？政治？
政治光譜上的評論員都對媒體的衰落和一切事物的兩極分化感到悲哀。節日餐桌上的對話對於許多大家庭來說已經變得不可能。
現狀可能已經很糟糕了，但更奇怪的時代還在後面，這可能會讓我們渴望今天的迴音室。很快，我們的氣泡將進一步縮小，直到我們的數字世界只剩下我們自己。在人工智慧調解的未來，我們每個人都將生活在一個私人的《楚門的世界》中。作為一個社會，我們將完全無法做出富有成效的集體決定，因為我們將對世界沒有共同的理解。
有什麼補救措施？首先，記住我們父母和他們之前的父母的忠告，至少可以追溯到電視的廣泛普及：到戶外玩耍。停止盯著螢幕。與你的朋友面對面地聚會。在有真實人群的空間裡尋找你的娛樂，與彼此交流思想和創作。
即使在網上，我們也必須保持我們對世界的理解紮根於人類創作的檔案和文物。重視人類創造的東西不僅僅是一個真實性的問題；它也確保我們專注於作者足夠在意提出的論點，以及演講者足夠在意進行的對話。
否則，《楚門的世界》的前提就會變成我們的現實，在不知不覺中居住在一個虛假的世界中，我們的每一次經歷都是為了利潤而策劃的。更具存在主義疏離感的是什麼？生活在一個《楚門的世界》中，導演、製片人和唯一的觀眾都是人工智慧。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。