·基礎(chǔ)模型的供應(yīng)商將被要求聲明是否使用受版權(quán)保護(hù)的材料來(lái)訓(xùn)練AI。對(duì)于谷歌和微軟等科技公司，若違反規(guī)定，罰款可能高達(dá)數(shù)十億美元。

·下一步是涉及成員國(guó)、議會(huì)和歐盟委員會(huì)的三方談判。爭(zhēng)論的一個(gè)主要領(lǐng)域是面部識(shí)別的使用。歐洲議會(huì)投票禁止使用實(shí)時(shí)面部識(shí)別，但仍存在是否應(yīng)出于國(guó)家安全和其他執(zhí)法目的而允許豁免的問(wèn)題。

當(dāng)?shù)貢r(shí)間6月14日，在法國(guó)斯特拉斯堡舉行的歐洲議會(huì)全體會(huì)議上，議員參加了關(guān)于《人工智能法案》的投票會(huì)議。

當(dāng)?shù)貢r(shí)間6月14日，歐盟《人工智能法案（AI Act）》朝著成為法律的方向邁出重要一步：歐洲議會(huì)投票通過(guò)了該法案，禁止實(shí)時(shí)面部識(shí)別，并對(duì)ChatGPT等生成式人工智能工具提出了新的透明度要求。

《人工智能法案》現(xiàn)在將進(jìn)入歐盟啟動(dòng)監(jiān)管前的最后階段。官員們將嘗試就這一法律草案與歐盟行政部門(mén)和成員國(guó)達(dá)成妥協(xié)，他們之間目前仍存分歧。如果該法案要在歐盟明年的選舉前生效，則必須在明年1月完成立法程序。

“這一刻非常重要。”Access Now布魯塞爾辦事處專(zhuān)注于人工智能的高級(jí)政策分析師丹尼爾·魯弗（Daniel Leufer）告訴《時(shí)代》，“歐盟所說(shuō)的對(duì)人權(quán)構(gòu)成不可接受的風(fēng)險(xiǎn)將被視為全世界的藍(lán)圖。”

歐盟批準(zhǔn)的法律版本提出，任何應(yīng)用于就業(yè)、邊境管制和教育等“高風(fēng)險(xiǎn)”用例的人工智能都必須遵守一系列安全要求，包括風(fēng)險(xiǎn)評(píng)估、確保透明度和提交日志記錄。該法案不會(huì)自動(dòng)將ChatGPT等“通用”AI視為高風(fēng)險(xiǎn)，但對(duì)“基礎(chǔ)模型”或經(jīng)過(guò)大量數(shù)據(jù)訓(xùn)練的強(qiáng)大AI系統(tǒng)施加了透明度和風(fēng)險(xiǎn)評(píng)估要求。例如，基礎(chǔ)模型的供應(yīng)商，包括OpenAI、谷歌和微軟，將被要求聲明是否使用受版權(quán)保護(hù)的材料來(lái)訓(xùn)練AI。但是，沒(méi)有類(lèi)似的規(guī)定要求聲明是否在訓(xùn)練期間使用了個(gè)人數(shù)據(jù)。

這些規(guī)則如何運(yùn)作？

歐盟《人工智能法案》于2021年被首次提出，將適用于任何使用人工智能系統(tǒng)的產(chǎn)品或服務(wù)。

該法案根據(jù)4個(gè)級(jí)別的風(fēng)險(xiǎn)對(duì)人工智能系統(tǒng)進(jìn)行分類(lèi)，從最小到不可接受。風(fēng)險(xiǎn)較高的應(yīng)用程序，例如招聘和針對(duì)兒童的技術(shù)將面臨更嚴(yán)格要求，包括更加透明和使用準(zhǔn)確的數(shù)據(jù)。

歐盟的主要目標(biāo)之一是防范任何人工智能對(duì)健康和安全構(gòu)成威脅，并保護(hù)基本權(quán)利和價(jià)值觀。

這意味著某些AI用途是絕對(duì)禁止的，例如根據(jù)人們的行為來(lái)判斷他們的“社會(huì)評(píng)分”系統(tǒng)，以及利用弱勢(shì)群體（包括兒童）或使用可能導(dǎo)致傷害的操縱潛意識(shí)的AI，比如鼓勵(lì)危險(xiǎn)行為的交互式對(duì)話(huà)工具。用于預(yù)測(cè)誰(shuí)犯罪的預(yù)測(cè)性警務(wù)工具也將被禁止。

此外，用于就業(yè)和教育等類(lèi)別的人工智能系統(tǒng)會(huì)影響一個(gè)人的生活進(jìn)程，將面臨嚴(yán)格要求，例如對(duì)用戶(hù)保持透明，并采取措施評(píng)估和減少算法帶來(lái)的偏見(jiàn)風(fēng)險(xiǎn)。

歐盟委員會(huì)表示，大多數(shù)人工智能系統(tǒng)，如視頻游戲或垃圾郵件過(guò)濾器，都屬于低風(fēng)險(xiǎn)或無(wú)風(fēng)險(xiǎn)類(lèi)別。

爭(zhēng)論的一個(gè)主要領(lǐng)域是面部識(shí)別的使用。歐洲議會(huì)投票禁止使用實(shí)時(shí)面部識(shí)別，但仍存在是否應(yīng)出于國(guó)家安全和其他執(zhí)法目的而允許豁免的問(wèn)題。另一項(xiàng)規(guī)定將禁止公司從社交媒體上抓取生物識(shí)別數(shù)據(jù)來(lái)建立數(shù)據(jù)庫(kù)。

當(dāng)天，歐洲議會(huì)的一群右翼立法者在最后一刻試圖取消法案提議的實(shí)時(shí)面部識(shí)別禁令，但遭到立法者否決。

這些規(guī)則的執(zhí)行將取決于歐盟的27個(gè)成員國(guó)。監(jiān)管機(jī)構(gòu)可能會(huì)迫使企業(yè)從市場(chǎng)上撤回應(yīng)用程序。在極端情況下，違規(guī)行為可能會(huì)被處以高達(dá)3000萬(wàn)歐元（約合3300萬(wàn)美元）或公司全球年收入6%的罰款，對(duì)于谷歌和微軟等科技公司而言，罰款可能高達(dá)數(shù)十億美元。

和ChatGPT有什么關(guān)系？

法案最初的措施幾乎沒(méi)有提到聊天機(jī)器人，僅要求對(duì)其進(jìn)行標(biāo)記，以便用戶(hù)知道他們正在與機(jī)器進(jìn)行交互。談判人員后來(lái)增加了條款，以涵蓋像ChatGPT這樣廣受歡迎的通用人工智能，使該技術(shù)滿(mǎn)足一些與高風(fēng)險(xiǎn)系統(tǒng)相同的要求。

一個(gè)關(guān)鍵的補(bǔ)充是，法案要求徹底記錄任何用于訓(xùn)練AI系統(tǒng)如何生成類(lèi)似于人類(lèi)作品的文本、圖像、視頻和音樂(lè)的版權(quán)材料。這將使內(nèi)容創(chuàng)作者知道，他們的博客文章、電子書(shū)、科學(xué)論文或歌曲是否已被用于訓(xùn)練為ChatGPT等系統(tǒng)提供動(dòng)力的算法。然后他們可以決定其作品是否可以被復(fù)制并尋求補(bǔ)償。

一些擔(dān)心人工智能模型帶來(lái)安全風(fēng)險(xiǎn)的專(zhuān)家認(rèn)為，該法案沒(méi)有對(duì)人工智能系統(tǒng)可以使用的計(jì)算能力進(jìn)行限制。隨著每個(gè)新版本的發(fā)布，像ChatGPT這樣的大型語(yǔ)言模型使用的計(jì)算量呈指數(shù)級(jí)增長(zhǎng)，這將極大提高其能力和表現(xiàn)。“用于訓(xùn)練人工智能系統(tǒng)的計(jì)算越多，人工智能就會(huì)越強(qiáng)大。能力越大，風(fēng)險(xiǎn)和危險(xiǎn)的可能性就越大。”人工智能安全初創(chuàng)公司Conjecture的戰(zhàn)略和治理主管安德里亞·米奧蒂（Andrea Miotti）告訴《時(shí)代》。

米奧蒂指出，研究人員衡量系統(tǒng)總計(jì)算能力相對(duì)容易，因?yàn)橛糜谟?xùn)練大多數(shù)尖端AI的芯片是一種物理資源。

為什么歐盟的監(jiān)管很重要？

《時(shí)代》指出，歐盟并不是尖端人工智能開(kāi)發(fā)的重要參與者，這個(gè)角色由美國(guó)和中國(guó)扮演，但歐盟經(jīng)常扮演引導(dǎo)潮水的角色，其法規(guī)往往成為事實(shí)上的全球標(biāo)準(zhǔn)，并已成為針對(duì)大型科技公司力量的先驅(qū)。

專(zhuān)家表示，歐盟單一市場(chǎng)規(guī)模龐大，擁有4.5億消費(fèi)者，這使得公司更容易遵守規(guī)定，而不是為不同地區(qū)開(kāi)發(fā)不同的產(chǎn)品。通過(guò)為人工智能制定通用規(guī)則，歐盟還試圖通過(guò)在用戶(hù)中灌輸信心來(lái)發(fā)展市場(chǎng)。

“這是可以強(qiáng)制執(zhí)行的法規(guī)，公司將被追究責(zé)任這一事實(shí)意義重大”，因?yàn)槊绹?guó)、新加坡和英國(guó)等地僅提供了“指導(dǎo)和建議”，愛(ài)爾蘭公民自由委員會(huì)的高級(jí)研究員克里斯·施里薩克（Kris Shrisak）說(shuō)，“其他國(guó)家可能想要適應(yīng)和復(fù)制”歐盟規(guī)則。

其他一些國(guó)家也在加緊監(jiān)管步伐。比如，英國(guó)首相蘇納克（Rishi Sunak）計(jì)劃在今年秋天舉辦人工智能安全世界峰會(huì)。“我想讓英國(guó)不僅成為知識(shí)的家園，而且成為全球人工智能安全監(jiān)管的地理家園。”蘇納克在本周的一次技術(shù)會(huì)議上說(shuō)，英國(guó)峰會(huì)將匯集“來(lái)自世界各地的學(xué)術(shù)界、商界和政府”人士，共同致力于“多邊框架”。

艾達(dá)·洛芙萊斯研究所（Ada Lovelace Institute）的代理主任弗朗辛·貝內(nèi)特（Francine Bennett）告訴《紐約時(shí)報(bào)》：“快速發(fā)展和可迅速轉(zhuǎn)用的技術(shù)當(dāng)然很難監(jiān)管，因?yàn)榧词故情_(kāi)發(fā)該技術(shù)的公司也不清楚事情將如何發(fā)展。但如果在沒(méi)有充分監(jiān)管的情況下繼續(xù)運(yùn)營(yíng)，對(duì)我們所有人來(lái)說(shuō)肯定會(huì)更糟。”

然而，美國(guó)計(jì)算機(jī)與通信行業(yè)協(xié)會(huì)認(rèn)為，歐盟應(yīng)避免過(guò)于寬泛的監(jiān)管，否則會(huì)抑制創(chuàng)新。該機(jī)構(gòu)歐洲政策經(jīng)理博尼法斯·德·尚普里斯（ Boniface de Champris ）說(shuō)，“歐洲的新AI規(guī)則需要有效化解被明確定義的風(fēng)險(xiǎn)，同時(shí)為開(kāi)發(fā)人員提供足夠的靈活性來(lái)交付為所有歐洲人謀福利的人工智能應(yīng)用。”

下一步是什么？

法案完全生效可能需要數(shù)年時(shí)間。下一步是涉及成員國(guó)、議會(huì)和歐盟委員會(huì)的三方談判，在他們?cè)噲D就措辭達(dá)成一致前可能面臨更多變化。

魯弗分析，在即將到來(lái)的三方對(duì)話(huà)階段，代表成員國(guó)政府的歐洲理事會(huì)預(yù)計(jì)將強(qiáng)烈主張執(zhí)法和邊境部隊(duì)使用的人工智能工具免于對(duì)“高風(fēng)險(xiǎn)”系統(tǒng)的要求。

法案預(yù)計(jì)將在今年年底獲得最終批準(zhǔn)，隨后是企業(yè)和組織適應(yīng)的寬限期，通常約為兩年。但領(lǐng)導(dǎo)該法案工作的歐洲議會(huì)意大利議員布蘭多·貝尼菲（Brando Benifei）表示，他們將推動(dòng)更快地采用生成式AI等快速發(fā)展技術(shù)的規(guī)則。

為了在立法生效前填補(bǔ)空白，歐洲和美國(guó)正在起草一份自愿行為準(zhǔn)則，官員們?cè)?月底承諾將在幾周內(nèi)起草該準(zhǔn)則，并可能擴(kuò)大到其他“志同道合的國(guó)家”。