在日本京都的中心地帶，坐落著擁有400多年曆史的高臺寺，寺內裝飾著華麗的櫻花、傳統的蒔繪藝術，以及現在一個由鋁和矽製成的機器人牧師。
“明達”是一個旨在模彷彿教慈悲女神的機器人牧師，它是不斷增長的機器人勞動力的一部分，這種勞動力正在加劇各行各業的職業不安全感。機器人甚至滲透到曾經看似不受自動化影響的領域，如新聞業和心理治療。現在人們正在辯論機器人和人工智慧系統是否可以取代牧師和僧侶。認為這些職業是安全的，是否太天真了？有什麼是機器人不能做的嗎？
我們認為，有些工作永遠不會屈服於機器人霸主。多年來對自動化心理學的研究向我們表明，這種機器仍然缺乏一種品質：可信度。沒有可信度，“明達”和其他機器人牧師永遠無法超越人類。工程師在設計機器人時很少考慮可信度，但這可能會決定哪些工作無法成功實現自動化。其影響遠遠超出宗教領域。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們今天世界的發現和想法的有影響力的故事的未來。
什麼是可信度，為什麼它如此重要？可信度是能力的對應物。能力描述了你是否能做某事，而可信度描述了人們是否相信你能做某事。可信度是一個人作為真實資訊來源的聲譽。
科學研究表明，獲得可信度需要以一種非常昂貴或不理性的方式行事，如果你不是真的堅持自己的信念。當格蕾塔·桑伯格乘船前往2019年聯合國氣候行動峰會時，她發出了一個真實的訊號，表明人們需要立即採取行動來遏制氣候變化。宗教領袖透過朝聖和獨身來展示可信度，如果他們不是真正堅持自己的信念，這些做法就沒有意義。當宗教領袖失去可信度時，就像在天主教會的性虐待醜聞之後一樣，宗教機構會損失金錢和信徒。
機器人能力很強，但它們可能不可信。研究表明，可信度需要真實的信念和為這些信念做出的犧牲。機器人可以佈道和撰寫政治演講稿，但它們並不真正理解它們所傳達的信念。機器人也不能真正從事像獨身這樣的代價高昂的行為，因為它們感受不到代價。
在過去的兩年裡，我們與包括高臺寺在內的宗教場所合作，測試這種缺乏可信度是否會損害僱用機器人牧師的宗教機構。我們的假設並非理所當然。“明達”和其他機器人牧師都是奇觀，配備了整面牆的影片螢幕和沉浸式音效。“明達”在其佈道過程中旋轉，以便與觀眾進行眼神交流，同時雙手合十祈禱。遊客蜂擁而至體驗這些佈道。然而，即使有這些特效，我們仍然懷疑機器人牧師是否真的能激勵人們感受到對他們的信仰和宗教機構的忠誠。
我們進行了三項相關研究，這些研究在一篇最近發表的論文中有所描述。在我們的第一項研究中，我們在人們離開高臺寺時招募了他們。有些人見過“明達”，有些人沒有。我們還詢問了人們對“明達”和在高臺寺工作的人類僧侶的可信度的看法，然後給了他們一個向寺廟捐款的機會。我們發現，人們認為“明達”的可信度低於在高臺寺工作的人類僧侶。我們還發現，與那些參觀過寺廟但沒有觀看“明達”的人（80%）相比，看過機器人的捐款給寺廟的可能性降低了12%（68%）。
然後在我們的論文中重複了這一發現兩次：在一項後續研究中，我們隨機分配道教徒觀看人類或機器人宣講《道德經》中的一段經文。在第三項研究中，我們衡量了基督徒在閱讀一篇我們告訴他們是由人類或聊天機器人撰寫的佈道詞後，其主觀宗教信仰的虔誠程度。在這兩項研究中，人們都認為機器人的可信度低於人類，並且與人類宣講的佈道詞相比，他們對自己的宗教身份的忠誠度在機器人宣講的佈道詞後也較低。觀看機器人宣講《道德經》的參與者也比觀看人類牧師的參與者（30%）在傳播寺廟傳單的可能性方面低12%（18%）。
我們認為，這些研究具有超越宗教的意義，並預示了自動化的侷限性。目前關於自動化未來的討論都集中在能力上。網站“機器人會搶走我的工作嗎？”使用關於機器人能力的資料來估計任何工作很快被自動化的可能性。在最近的社論中，新加坡管理大學的管理人員認為，在人工智慧時代，就業的最佳途徑是培養“獨特的人類能力”。
然而，僅僅關注能力可能會使我們看不到機器人因不可信而表現不佳的領域。
這種機器人可信度懲罰目前正在從新聞業到醫療保健、法律、軍事和自動駕駛汽車等領域感受到。機器人可以勝任地執行這些領域的活動。但它們未能激發信任，而信任至關重要。人們不太可能相信人工智慧生成的新聞標題，並且他們不希望機器在無人機襲擊或車禍中做出關於誰生誰死的道德決定。
教育也可能受到可信度懲罰的影響。可汗學院釋出了線上學生教育工具，最近釋出了一個名為Khanmigo的生成式人工智慧，它提供發展性反饋，而不是直接給學生答案。但是這些程式會奏效嗎？
就像虔誠的人需要一位為自己的信仰做出犧牲的領袖一樣，學生需要以身作則的榜樣，他們真誠地關心他們所教的內容。他們需要勝任且可信的老師。因此，自動化教育可能會進一步擴大 教育不平等。來自富裕背景的學生將有機會獲得人工智慧輔助的人類教師，而來自貧困背景的學生最終可能會進入完全由人工智慧授課的課堂。
政治和社會行動主義是可信度至關重要的其他領域。想象一下機器人試圖發表亞伯拉罕·林肯的葛底斯堡演說或馬丁·路德·金的“我有一個夢想”演講。這些演講之所以如此有力，是因為它們充滿了作者真實的痛苦和愛。
如果需要可信度的工作找到一種方法，將人工智慧能力與人類可信度結合起來，而不是取代人類工作者，那麼這些工作將更有效地運作。人們可能不信任機器人記者和教師，但他們會信任在這些角色中使用人工智慧輔助的人類。
正確預測工作的未來需要認識到哪些職業需要人情味，並保護這些領域的人類僱員。在急於推進人工智慧技術的過程中，我們必須記住，有些事情是機器人做不到的。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。