上週，演員斯嘉麗·約翰遜抱怨OpenAI的一個聊天機器人聲音聽起來很像她，引發了一場小風波。 這聲音不是她的——該公司使用來自其他人的錄音建立了它。 然而，出於對約翰遜擔憂的尊重，該公司已經暫停了該聲音。 但媒體的喧囂開啟了關於人們對其自身人格權的更廣泛討論。 在生成式人工智慧時代 (genAI)，現有法律是否足以保護個人外貌和聲音的使用？
多倫多約克大學的智慧財產權學者卡里斯·克雷格表示，答案並不總是明確的，她將於下個月在加拿大律師協會的網路直播中就此話題發表演講。
過去一年，美國國會的幾位議員呼籲制定聯邦法律，以在國家層面確立此類保護。 一些法律學者表示，需要採取行動以改善美國的隱私權。 但他們也警告說，倉促制定的法律可能會侵犯言論自由或造成其他問題。 “這很複雜，”華盛頓特區非營利消費者權益倡導組織公共知識的法律分析師梅雷迪思·羅斯說。 “有很多事情可能會出錯。”
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道： 訂閱。 透過購買訂閱，您正在幫助確保關於塑造我們當今世界的發現和想法的具有影響力的故事的未來。
克雷格說：“匆忙監管可能是一個錯誤。”
偽造我
GenAI 可以很容易地用於克隆聲音或面孔以建立深度偽造，其中一個人的肖像被數字化模仿。人們製作深度偽造是為了娛樂和促進教育或研究。 然而，它們也被用來散佈虛假資訊、試圖左右選舉、建立非自願性性影像或詐騙錢財。
克雷格說，許多國家都有法律來阻止這些有害和不正當的活動，無論它們是否涉及人工智慧。 但當涉及到專門保護人格時，現有法律可能足夠也可能不足夠。
克雷格說，版權不適用，因為它旨在保護特定作品。 “從智慧財產權的角度來看，例如，關於我們是否擁有對我們聲音的權利的答案是否定的，”她說。 大多數關於版權和人工智慧的討論都集中在受版權保護的材料是否以及如何可以用於訓練該技術，以及它生成的新材料是否可以受版權保護。
除了版權法外，包括一些美國州在內的一些地區還擁有“公開權”，允許個人控制其形象的商業用途，以保護名人免受經濟損失。 例如，早在人工智慧進入舞臺之前，1988 年，歌手兼演員貝蒂·米德勒就贏得了針對福特汽車公司的“聲音盜用”案件，該公司在商業廣告中使用了一個聲音相似的歌手來翻唱她的一首歌曲。 1992 年，遊戲節目主持人凡娜·懷特在與三星美國分公司的案件中勝訴，當時該公司在商業廣告中放置了一個打扮成她的機器人。
羅斯說：“我們已經有一個人起訴一個真正機器人的案例勝訴了。” 她說，隨著人工智慧進入這個領域，案例將變得“越來越荒謬”。
許多問題仍有待在法庭上檢驗。 例如，說唱歌手德雷克上個月釋出了一首歌曲，其中包含已故說唱歌手圖派克·沙庫爾的人工智慧生成的聲音片段。 在收到沙庫爾遺產管理委員會的停止侵權函後，德雷克從流媒體服務中刪除了這首歌。 但克雷格說，目前尚不清楚這首歌的人工智慧元件是否違法。 在田納西州，今年透過的一項名為《確保肖像、聲音和影像安全（ELVIS）法案》的法律旨在保護所有知名度的配音演員免受“對其聲音的不公平剝削”，包括人工智慧克隆的使用。
在美國，演員在人工智慧方面有一些合同保護——去年 12 月結束的美國演員工會-美國電視和廣播藝人聯合會的好萊塢罷工協議包括阻止電影製作人在未經個人在每種情況下明確同意的情況下使用演員數字副本的條款。
與此同時，個別科技公司也有自己的政策來幫助防止 genAI 的濫用。 例如，總部位於加利福尼亞州舊金山的 OpenAI 沒有向公眾釋出用於製作其聊天機器人聲音的語音克隆軟體，承認“生成類似於人們聲音的語音具有嚴重風險”。 合作伙伴測試該技術的使用政策“禁止在未經同意或合法權利的情況下冒充另一個人或組織”。
其他人正在尋求技術方法來阻止濫用：上個月，美國聯邦貿易委員會宣佈了其“保護消費者免受人工智慧語音克隆濫用於欺詐和其他危害”挑戰賽的獲勝者。 這些方法包括在錄製時為真實音訊新增水印以及檢測 genAI 生成音訊的工具。
範圍廣泛
羅斯和克雷格說，比演員收入損失更令人擔憂的是使用人工智慧克隆人們的肖像，用於包括非自願色情製品在內的用途。 “我們首先在非自願影像方面就擁有非常稀少、不足的法律，更不用說人工智慧了，”羅斯說。 她補充說，現在很容易生成深度偽造色情片，包括未成年人的肖像，這應該引起嚴重警惕。 一些法律學者，包括弗吉尼亞大學夏洛茨維爾分校的丹妮爾·西特隆，正在倡導法律改革，將“私密隱私”確認為美國的公民權利——堪比投票權或公平審判權。
羅斯說，當前的公開權法律不太適合涵蓋非名人。 “公開權是圍繞商業應用中可識別的、與眾不同的人建立的，”她說。 “這對斯嘉麗·約翰遜來說有意義，但對非自願影像中使用的 16 歲女孩來說則不然。”
然而，羅斯說，在美國將公開權擴充套件到私人個人的提議可能會產生意想不到的後果。 她已致信美國國會，表達了對一些擬議立法可能被強大公司濫用的擔憂。 例如，用於建立新奇照片的智慧手機應用程式可能會在其服務條款中插入一項規定，“授予該應用程式不受限制的、不可撤銷的許可來使用使用者的肖像”。
羅斯說，還有一個分身問題：人工智慧隨機生成的個人影像或聲音必然會看起來和聽起來像至少一個真人，然後真人可能會尋求賠償。
旨在保護人民的法律可能會有走得太遠並威脅言論自由的風險。 克雷格說：“當你的權利過於寬泛時，你就會限制自由表達。” 她說：“我們允許版權所有者控制的限制是有原因的； 為了讓人們受到啟發並創造新事物，併為文化對話做出貢獻。” 戲仿和其他建立在原始作品之上並進行轉化的作品通常屬於合法的合理使用範圍，它們本應如此，她說。 羅斯說：“過於嚴格的版本[的這些法律]會扼殺戲仿。”
本文經許可轉載，並於 2024 年 5 月 29 日首次發表。