我應該告訴我的朋友他們的男朋友出軌了嗎？當我聽到不雅的笑話時，我應該干預嗎？
當面對道德問題——行為過程與我們的正誤感相關的情況——時，我們經常尋求建議。現在人們也可以向 ChatGPT 和其他大型語言模型 (LLM) 尋求指導。
許多人似乎對這些模型提供的答案感到滿意。在一項預印本研究中，當向人們展示道德困境時，他們認為 LLM 生成的回覆比紐約時報倫理專欄作家 Kwame Anthony Appiah 的回覆更值得信賴、可靠甚至更細緻入微。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮支援我們屢獲殊榮的新聞報道，方式是 訂閱。透過購買訂閱，您正在幫助確保有關當今塑造我們世界的發現和思想的具有影響力的故事的未來。
這項研究與其他幾項研究一起表明，LLM 可以提供合理的道德建議。去年四月發表的另一項研究發現，人們認為人工智慧在美德、智慧和可信度方面的推理“優於人類”。一些研究人員甚至提出，儘管 LLM “天生具有反社會性”，但仍可以對其進行培訓以提供合乎道德的財務指導。
這些發現意味著，virtuosic 倫理建議觸手可及——那麼為什麼不向 LLM 尋求建議呢？但是這種結論背後有幾個值得懷疑的假設。首先，研究表明，人們並不總是能在看到好的建議時認出來。此外，許多人認為建議的內容——字面意思，無論是書面的還是口頭的——在考慮其價值時最重要，但社交聯絡可能對於解決困境，尤其是道德困境尤為重要。
在 2023 年的一篇論文中，研究人員分析了許多研究，以檢查，除其他外，是什麼使建議最具有說服力。事實證明，人們認為建議給予者越專業，他們就越有可能實際採納他們的建議。但是感知不需要與實際專業知識相符。此外，即使在他們的專業領域，專家也不一定是好的建議給予者。在一系列人們學習翫單詞搜尋遊戲的實驗中，那些從遊戲高分玩家那裡獲得建議的人並沒有做得更好 比那些由低分玩家指導的人。在任務中表現出色的人並不總是知道他們是如何做到的，也無法就如何做到這一點向其他人提供建議。
人們也傾向於認為中立、客觀的資訊比主觀的細節資訊更具資訊量，例如第一手資料。但事實並非一定如此。考慮一項研究，其中本科生來到實驗室參加快速約會。在每次約會之前，他們都會看到他們即將見面的人的個人資料，或者描述另一個學生參與該活動的經歷的證詞。即使參與者期望關於他們約會的客觀資訊能夠更好地預測會話的進展，但閱讀過其他人證詞的人對他們的經歷做出了更準確的預測。
當然，ChatGPT 無法從生活經驗中汲取經驗來提供諮詢。但是，即使我們可以確保我們收到（並識別）高質量的建議，LLM 也無法複製其他社會益處。當我們尋求道德建議時，我們很可能是在分享一些私人的東西——而且，通常，我們想要的更多的是親密關係而不是指導。參與自我表露是快速感到親近某人的已知方法。在對話過程中，建議者和被建議者可能會尋求並建立共同的現實——也就是說，對內在狀態（如感受、信念和對世界的擔憂）的共同感——這也有助於促進親近感。儘管人們可能感覺他們正在與 LLM 建立親近感和共同的現實感，但至少目前，這些模型不能很好地替代人際關係。
當然，有些人可能想要迴避社互動動。他們可能擔心他們的談話會很尷尬，或者朋友會因為不得不分享他們的問題而感到負擔。然而，研究始終如一地發現，人們低估了他們與朋友之間短暫的自發對話和深入的心靈對話的樂趣。
對於道德建議，我們應該格外小心——它還有一個額外的怪癖，即感覺更像是客觀事實，而不是觀點或偏好。您（或我）對鹹醋味是否是最好的薯片口味的看法是主觀的。但是“偷竊是不好的”和“誠實是好的”這樣的想法感覺是確定的。因此，帶有大量道德理由的建議似乎特別具有說服力。因此，建議仔細評估來自任何顧問（人工智慧或人類）的任何道德建議例項。
有時，駕馭充滿道德高地信念的辯論的最佳方法是重新定義它們。當人們有強烈的道德信念並以非常黑白分明的方式看待問題時，他們可能會抵制妥協或其他實際形式的問題解決。我過去的研究表明，當人們將危險性行為、吸菸或槍支所有權道德化時，他們不太可能支援減少與這些行為相關的危害的政策，因為該政策仍然允許這些行為。相比之下，人們並不擔心減少似乎超出道德範圍的行為的危害，例如系安全帶或頭盔。從道德視角轉向實際視角對於一個人來說已經很困難，對於 LLM 來說可能太難了，至少在它們當前的迭代中是這樣。
這給我們帶來了關於 LLM 的另一個擔憂。ChatGPT 和其他語言模型對問題的提出方式非常敏感。正如 2023 年發表的一項研究表明，LLM 會從一個提示到下一個提示給出不一致甚至有時是矛盾的道德建議。模型的答案可以如此容易地被改變，這應該促使我們停下來思考一下。有趣的是，同一項研究發現，人們不相信模型的建議會左右他們的判斷，但閱讀了 LLM 生成的建議的研究參與者比沒有閱讀 LLM 訊息的類似人群更傾向於按照該指導行事。簡而言之，LLM 的輸入對人們的影響超出了他們的意識。
當涉及到 LLM 時，請謹慎行事。人們並不擅長衡量好的顧問和好的建議，尤其是在道德領域，而且我們通常需要真正的社交聯絡、認可，甚至挑戰，而不是“專家”的回應。所以你可以詢問 LLM，但不要止步於此。也問問朋友。
您是神經科學、認知科學或心理學方面的專家科學家嗎？您是否讀過最近發表的同行評審論文，並想為“心靈 Matters”撰寫文章？請將建議傳送給大眾科學的“心靈 Matters”編輯 Daisy Yuhas，郵箱為dyuhas@sciam.com。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表大眾科學的觀點。