隨著人工智慧應用變得越來越先進，世界各地的立法者都在努力應對意外後果的可能性：不僅是對人類潛在的生存危險，還有更直接的失業、歧視和侵犯版權的風險。
代表歐洲4.5億公民的歐盟是這場監管競賽的領跑者。上週五，成員國簽署了《人工智慧法案》，該法案已於去年12月由歐洲理事會（由歐盟領導人組成的、塑造歐盟政治議程的團體）和歐洲議會達成一致。該法案預計將於今年成為法律，並將對在歐洲使用人工智慧工具的公司施加廣泛限制，可能限制這些工具在全球範圍內的開發和使用。然而，自從該法案宣佈以來，由於內部政治鬥爭和遊說，其文字已經發生了變化，根據最近洩露的草案。一些專家仍然擔心似乎被遺漏的內容。
荷蘭烏得勒支大學私法和技術副教授卡塔琳娜·戈安塔說，《人工智慧法案》是歐盟近期出臺的眾多解決技術問題立法之一。該法案禁止在工作場所和學校使用情緒識別軟體，禁止種族主義和歧視性分析系統，併為構建人工智慧工具提供了嚴格的道德框架，公司必須遵守該框架。
關於支援科學新聞報道
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞報道 訂閱。透過購買訂閱，您將幫助確保有關塑造我們當今世界的發現和思想的有影響力的故事的未來。
戈安塔解釋說，為了有效，此類法規必須作為一種通用的解決方案應用於各個行業——這在快速發展的科技行業中是一項艱鉅的任務，因為每週都有新產品推出。她說：“鬥爭一直在於在鼓勵增長和創新與實施保護個人的保障措施之間找到穩健的平衡。”
1月22日，歐洲媒體網路 Euractiv 的記者 盧卡·貝爾圖齊 洩露 的《人工智慧法案》草案顯示，該法案的措辭在其透過歐盟官僚機構的過程中是如何演變的。最值得注意的是，它現在包含了對 開源人工智慧模型 的豁免——這些系統具有免費提供的原始碼和訓練資料。儘管這些工具——包括 Meta 的大型語言模型 LLaMA——比 OpenAI 的 GPT-4 等“黑盒”系統執行得更透明，但專家指出，它們 仍然可能造成危害。其他變化包括歐洲委員會人工智慧問題前負責人亞歷山大·蒂烏爾卡諾夫所稱的對法規涵蓋的人工智慧系統定義的“可能存在爭議的”調整。
戈安塔說，雖然這些變化可能看起來很小，但它們意義重大。“變化的複雜程度將需要在未來幾周和幾個月內進行非常詳細的審查，”她說。
倫敦大學學院法學副教授邁克爾·維爾說：“《人工智慧法案》的核心是對歐盟產品法規的調整。”與監管玩具或食品安全的其他歐盟消費者保護法律一樣，《人工智慧法案》將某些用途——例如醫療影像和邊境管制站的面部識別——定義為“高風險”，並要求此類人工智慧系統滿足特殊要求。維爾說，開發商需要向監管機構證明他們正在使用相關的、高質量的資料，並且有準備管理風險的系統。
戈安塔說，本質上，任何可能對“健康、安全、基本權利、民主等公共利益造成潛在危害”的應用都可以被認為是高風險的。但一些研究人員 認為，該法案用於定義“高風險”的語言可能被解釋得過於寬泛。義大利博洛尼亞大學數字倫理和法律研究員克勞迪奧·諾維利擔心，這可能會阻止人工智慧公司參與歐盟市場——並可能扼殺創新。“我們的批評不是針對基於風險的方法本身，而是針對用於衡量風險的方法，”他說，儘管他承認該法案目前的文字比最初的文字有所改進。
在高風險用途之外，所謂的通用人工智慧提供商——監督像 ChatGPT 這樣具有多種可能應用的生成式人工智慧工具的公司——也將受到額外的義務約束。他們必須定期證明其模型的輸出按預期工作，而不是放大偏見，並測試其系統是否存在遭受駭客或其他不良行為者攻擊的漏洞。雖然最近的 國際峰會 和 宣告 已經確定了通用模型的這些風險，但艾娃·洛夫萊斯研究所歐洲公共政策負責人康納·鄧洛普說，歐盟的《人工智慧法案》走得更遠。“因此，《人工智慧法案》代表了超越風險識別並朝著緩解這些風險邁出的第一步，”他說。
當《人工智慧法案》通過後，強制執行的倒計時將開始：該法案禁止的做法必須在六個月內停止。通用人工智慧義務將在一年內生效。任何開發高風險人工智慧的人員將有 24 個月的時間遵守，而一些專業的高風險用途——例如包含人工智慧的醫療裝置——將有 36 個月的時間遵守。
該法案將如何執行尚不清楚。該法律建立了一個 歐盟人工智慧辦公室 以支援成員國，但其確切角色尚未確定。維爾預測，成員國將把執法權委託給私營機構——一些專家擔心這些機構不會積極主動地執行標準。“實際上，這些要求將由私人標準化機構制定和確定，這些機構的包容性和問責性不高，”他說。“這完全是自我認證。”
維爾補充說，無論採取何種執行機制，“可能有助於提供一些社會監督”，“但我懷疑對該制度的實際執行將很低。”
鄧洛普也擔心實際執行力度會有多大。他建議以歐盟的《通用資料保護條例》（GDPR）法律——該法律確立了網際網路使用者的隱私權——作為榜樣。“對 GDPR 等其他具有里程碑意義的立法的執行一直斷斷續續且啟動緩慢，但現在正在加快步伐，”他說。但是，“來自人工智慧的挑戰的緊迫性意味著歐盟需要緊急轉向實施和執行。”
儘管如此，如果全球人工智慧公司希望其工具在歐洲使用，它們將需要適應歐盟規則。就 GDPR 而言，許多國際公司已選擇在全球範圍內按照歐盟標準運營，而不是跨司法管轄區執行多個版本的工具。（這就是為什麼許多網站要求訪問者同意 Cookie 偏好，即使在歐盟以外也是如此。）
戈安塔說，新立法“對於希望將人工智慧產品引入歐盟的美國公司來說非常重要，無論是用於公共用途還是私人用途”。“但有趣的是，看看是否會出現‘布魯塞爾效應’：美國公司是否會適應歐盟規則，並在其整體運營中提高公共利益保護？”
諾維利說，美國監管機構目前正在採取“觀望態度”。雖然歐盟樂於強調其願意打擊大型科技公司，但美國更擔心勸退投資者和創新。“美國很可能正在監測歐盟《人工智慧法案》對人工智慧市場和利益相關者反應的影響，”諾維利說，“可能旨在利用任何負面反饋並確保競爭優勢。”