最近，Facebook 的母公司 Meta，連同 IBM 和其他 50 多個創始成員，宣佈成立了一個 人工智慧聯盟，旨在“推進開放、安全、負責任的人工智慧”。該組織將致力於“開放科學和開放技術”，推廣標準和基準，以降低先進模型可能造成的危害風險。
這些都是至關重要的目標，因為許多科技公司在快速發展的人工智慧軍備競賽的驅動下，已經推出了可能顛覆許多人的生活和生計的產品，並對整個人類構成生存威脅。鑑於美國科技行業近乎絕對的公司統治地位，聯邦政府對替代人工智慧渠道和非專有知識形式的支援，是實現該行業多元化的關鍵，利用這種多元化作為危險技術的民主護欄。
該聯盟的陣容令人印象深刻：美國國家航空航天局和國家科學基金會；歐洲核子研究中心和克利夫蘭診所；以及一組刻意不拘一格的大學：包括耶魯大學、加州大學伯克利分校、德克薩斯大學奧斯汀分校和伊利諾伊大學，以及東京大學、印度理工學院、耶路撒冷希伯來大學和阿卜杜斯·薩拉姆國際理論物理中心。鑑於所代表機構的範圍及其在目標和方法上的多樣性，該聯盟可以首先奠定人工智慧素養的共同基礎，發起關於可以開發的不同型別模型、它們可以用於的不同用途以及確保開發者和受其用途影響的人能夠參與其設計和運營所需的開放程度的公共對話。
關於支援科學新聞業
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞業 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
一般來說，“開放”在計算機領域意味著原始碼或基礎技術可以自由地檢查，甚至可以自由地使用和擴充套件。但對於最近人工智慧模型的製造者來說，在激烈的市場競爭下，這個詞已經變成了一個自相矛盾的說法。這在 ChatGPT 的製造商 OpenAI 中尤其明顯。該公司一直對建立其產品所涉及的內容秘而不宣。像 ChatGPT 這樣的大型語言模型 (LLM) 需要在從網際網路上抓取的 PB 級資料上進行訓練。由於網際網路上充斥著種族主義、極端主義和厭女症，人工智慧訓練的關鍵部分需要明確標記有害材料，以防止其助長類似的有害表現。《時代》雜誌 披露，這項勞動密集型且常常令人痛苦的工作是由肯亞工人完成的，OpenAI 給他們的報酬不到每小時 2 美元。這種隱藏的、不可接受的勞動行為是其魅力和技術魔力的重要組成部分。
另一層隱藏的、不可接受的行為在一系列訴訟中曝光，最近一次是 《紐約時報》 對 OpenAI 和微軟提起訴訟，以及早些時候約翰·格里沙姆和喬治·R·R·馬丁等作者提起的訴訟，指控其侵犯版權，並在 LLM 訓練中未公開和無償使用人類創作。
OpenAI 的成功是其隱瞞資訊而非透明度的結果。現在迴歸開源將告訴我們關於當前模型我們需要了解的事情，包括它們的碳足跡和環境影響。開放性還將把勞資關係和公平報酬的倫理問題擺在桌面上。
在領導該聯盟時，Meta 和 IBM 聲稱自己站在道德制高點上，但在這方面，它們也並非完全光明磊落。正如最近肯亞內容稽核員提起的訴訟所表明的那樣，Meta 也一直在使其外國工人遭受不可接受的薪酬和工作條件。“效率年”導致 Meta 在 2023 年前五個月裁員 10,600 人，此前在 2022 年 11 月裁員超過 11,000 人，而 IBM 凍結了 數千名“後臺”員工的招聘，因為他們知道這些工作將被人工智慧取代。儘管如此，這兩家公司在與競爭對手 OpenAI、微軟和谷歌及其對其產品的狂熱專有保密性保持距離方面可能是有道理的。
然而，隨著對更開放性的推動，新的風險也隨之而來。Yann LeCun，Meta 的首席人工智慧科學家，堅持認為 OpenAI 沒什麼好保密的，ChatGPT 背後的技術是公共財產，已經由“六家初創公司”開發出來，並且不屬於任何人。Meta 已經發布了一系列開源模型 Llama，其前提是將程式碼提供給開發者社群，供他們隨意使用。OpenAI 和谷歌反擊，反過來指責 Meta 將強大的軟體置於危險之手。在釋出幾天後，Llama 就被洩露到了 4Chan 上，這是一個 極端分子聚集的網站。
毫無疑問，開源可能存在風險。然而，最近幾個月在 OpenAI 的董事會中發生的、正在顯現的新危險可能超過了這種風險。執行長薩姆·奧特曼的戲劇性罷免和迅速復職，以及監督委員會的解散，表明非營利組織 OpenAI 現在可能正在屈居其營利性部門之下，將未宣佈的市場加速置於超人工智慧可能造成的任何生存威脅之上。根據非商業許可釋出並向數百萬眼球開放檢查的 Llama，可能最終證明是兩者中較不安全的一個。
其他最近的進展也為人工智慧聯盟提供了背景。Imagine是 Meta 在人工智慧聯盟成立一天內宣佈的新型文字到影像生成器，它預先在 11 億張 Facebook 和 Instagram 照片上進行了訓練。“開放性”在這裡可能意味著對使用者隱私和財產的毫不掩飾的剝削。與此同時，具有里程碑意義的 歐盟人工智慧法案中的一項臨時條款——豁免某些開源模型於管轄商業產品的嚴格法規——對該聯盟崇高的原則提出了另一種解讀。儘管如此，歐盟在“開源”和“商業”之間做出的區分可能是一個值得努力實現的目標，一條通往更加多元化、更加民主化的技術生態系統的路線圖。只有當存在與企業統治地位相抗衡的力量時，才有可能出現代表整個人類的護欄。只有當人工智慧素養得到廣泛普及， “開放”這個詞才能發揮作用，而不僅僅是裝飾。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。