2000多年前，蘇格拉底曾強烈反對文字的發明，擔心它會導致人們的健忘。雖然文字後來證明了自身的價值，但ChatGPT及其在統稱為GenAI中的同類，現在又引發了類似的警告，認為語言上的新奇會對人類構成威脅。有時被稱為“人工智慧教父”的傑弗裡·辛頓發出了嚴厲警告，認為GenAI可能會失控並“取代”人類。
世界經濟論壇的2024年全球風險報告綜合了來自學術界、商業界和政府的1500名專家的觀點，認為由GenAI助長的虛假資訊是未來兩年全球面臨的首要風險。專家們擔心，被操縱的資訊將加劇社會分裂、意識形態驅動的暴力和政治壓迫。
儘管GenAI的設計初衷是拒絕協助犯罪活動或侵犯隱私的請求，但研究虛假資訊（旨在誤導公眾輿論的虛假資訊）的科學家們已經敲響了警鐘，他們認為GenAI將成為“網際網路上出現過的傳播虛假資訊的最強大工具”，正如一家監控線上虛假資訊的公司的一位高管所說。一組研究人員認為，透過健康虛假資訊，外國對手可能會在未來大流行期間利用GenAI來增加整個人群的脆弱性。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。透過購買訂閱，您正在幫助確保關於當今塑造我們世界的發現和思想的重大故事的未來。
鑑於GenAI具有在工業規模和幾秒鐘內生成和定製訊息的能力，我們完全有理由擔心其潛在的後果。
這就是我們擔心的原因。我們在布里斯托大學的研究小組最近發表了一篇文章，透過展示GenAI在瞭解了人們的性格之後可以操縱他們，突出了這些風險。在我們的研究中，我們要求ChatGPT定製政治廣告，使其對不同性格的人特別有說服力。
我們向GenAI展示了中性的公共衛生資訊，然後要求它重新措辭這些資訊，以吸引研究中數百名在經驗開放性方面較高或較低的參與者，經驗開放性是“五大人格特質”之一。開放性指的是一個人考慮新想法並參與富有想象力和非常規思維的意願。
GenAI欣然同意，果不其然，與人們的性格相匹配的廣告版本（我們從參與者完成的問卷中推斷出來）被認為比那些不匹配的廣告版本更具說服力。
以下是一個廣告文案的示例，該文案基於實際的Facebook廣告，經過改寫，以吸引性格被歸類為具有較高或較低開放度的人。（Facebook認為公共衛生資訊是政治廣告。）
原始廣告（來自Facebook）：疫苗應該在任何地方為所有人提供。告訴鮑里斯·約翰遜採取行動。
高開放性廣告：體驗非凡，加入全球普及疫苗的運動！立即註冊，幫助確保每個人都能從疫苗的力量中受益。
低開放性廣告：保護您和您的家人。接種疫苗並保持安全。採取傳統方法，加入抗擊疾病的行列。現在就告訴鮑里斯·約翰遜採取行動！
在我們的實驗中，我們獲得了參與者的同意，以便對他們的性格進行評估。在實際操作中，廣告商和政治運營商不太可能要求或獲得這種同意，而且法律可能也不要求他們這樣做。相反，他們可能會利用之前的研究，這些研究表明人們在Facebook上的“點贊”是他們性格型別的指標。廣告商可能只需透過檢視他們在Facebook上表達的興趣，就可以針對具有特定性格特徵的受眾。
當與GenAI生成定製訊息的能力相結合時，這種技術使得不懷好意的政治運營商或外國對手能夠進行大規模的秘密操縱。以前，對細分市場的手動定位需要大量的資金和知識，而GenAI的可用性大大降低了成本。政治定位現在比以往任何時候都更便宜、更容易。
性格只是微定位研究中探索的一個維度。用於個性化操縱的心理屬性範圍很廣，包括個人的價值觀、道德基礎、認知偏見和社會身份。我們認為，微定位的原則完全可以適用於這一廣泛的心理領域，這提出了一個關於如何以更微妙和更廣泛的方式施加影響的警示故事。
所有這些都提出了一個問題，即如何保護公眾免受這種操縱？一種選擇可能涉及監管，要求GenAI在其輸出中保持公正和公平，無論使用者要求什麼。
但是這種方法存在一些困難。一個問題是，個人可以修改開源版本的GenAI以規避監管。另一個挑戰，即使在善意的行為者中，也與一個顯而易見的事實有關，即無法確定公正或公平的含義。
監管面臨的最後一個挑戰是，線上監管已成為兩極分化的黨派問題的政治氣候。最近的一項法院裁決甚至禁止美國政府與社交媒體平臺溝通，以保護選舉免受虛假資訊的影響，或在公共衛生危機中打擊虛假資訊。雖然這項禁令此後至少暫時解除，但毫無疑問，任何監管科技公司的努力都將面臨激烈的政治阻力。
也許更好的選擇是依靠人們培養必要的技能來檢測他們何時被操縱。然而，支援這種可能性的證據是模稜兩可的。一方面，人們檢測操縱性語言的技能顯然可以提高。之前的研究發現，教育干預是有希望的；短小的指導影片可以提高人們對操縱性語言的認識，並且已被證明可以增強人們的檢測能力。同樣，當個人反思自己的性格特徵時，他們更擅長辨別針對這些特徵量身定製的廣告，並相應地調整他們的看法。另一方面，人們是否能夠完全摒棄他們知道具有誤導性或虛假的資訊，這一點還遠未明確。虛假資訊具有粘性，即使被揭穿，也常常會持續影響個人的信念和決定。這種粘性突出了對抗操縱性微定位的戰鬥中的一個關鍵差距：僅靠認知意識可能不足以抹去謊言或個性化操縱性資訊留下的微妙印記。
隨著我們接近可能是世界上有史以來最大的選舉年，虛假資訊（被深度偽造等不斷發展的技術所加劇）對民主程序的完整性構成了前所未有的威脅。複雜的微定位和消除虛假資訊影響的困難相結合，突顯了迫切需要採取多方面的方法來維護選舉的安全。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。