·最大的通用人工智能系統(tǒng)，包括為聊天機(jī)器人ChatGPT提供支持的GPT將面臨新的透明度要求。除因國(guó)家安全豁免外，警方和政府使用面部識(shí)別軟件將受到限制。違反規(guī)定的公司可能面臨高達(dá)全球銷售額7%的罰款。

·在美國(guó)國(guó)會(huì)沒有采取任何有意義的行動(dòng)的情況下，歐盟的法律將為西方世界隨后的監(jiān)管定下基調(diào)。但其效果仍然存疑，執(zhí)行情況尚不明朗。

經(jīng)過漫長(zhǎng)而艱難的談判后，歐盟政策制定者于當(dāng)?shù)貢r(shí)間12月8日就《人工智能法案》達(dá)成初步協(xié)議，該法案是全球首次嘗試以全面的、基于倫理的方式監(jiān)管這項(xiàng)快速發(fā)展的技術(shù)。

《人工智能法案》為尋求利用人工智能潛在好處的國(guó)家設(shè)立了新的全球基準(zhǔn)，同時(shí)努力防范其可能存在的風(fēng)險(xiǎn)，例如自動(dòng)化運(yùn)作、在網(wǎng)上傳播錯(cuò)誤信息和危及國(guó)家安全。該法案仍需經(jīng)過幾個(gè)立法步驟才能獲得最終批準(zhǔn)，但目前達(dá)成的協(xié)議意味著其關(guān)鍵輪廓已經(jīng)確定。

最大的通用人工智能系統(tǒng)，包括為聊天機(jī)器人ChatGPT提供支持的GPT將面臨新的透明度要求。除因國(guó)家安全豁免外，警方和政府使用面部識(shí)別軟件將受到限制。違反規(guī)定的公司可能面臨高達(dá)全球銷售額7%的罰款，可達(dá)3500萬歐元（3770萬美元）。

盡管該法案被譽(yù)為監(jiān)管方面的突破，但效果如何仍然存疑。其中的許多要求預(yù)計(jì)在12至24個(gè)月內(nèi)不會(huì)生效，這對(duì)于人工智能的發(fā)展來說是一個(gè)相當(dāng)長(zhǎng)的時(shí)間。

負(fù)責(zé)談判的歐盟內(nèi)部市場(chǎng)專員蒂埃里·布雷頓在X上發(fā)帖，慶祝協(xié)議達(dá)成。

目前唯一達(dá)到閾值的模型是GPT-4

協(xié)議歷時(shí)3天談判，包括當(dāng)?shù)貢r(shí)間12月6日下午開始并持續(xù)到7日的22小時(shí)會(huì)議。據(jù)彭博社報(bào)道，談判代表們時(shí)不時(shí)地打瞌睡，自助咖啡機(jī)運(yùn)轉(zhuǎn)得太過頻繁，以致于出現(xiàn)了故障。8日，談判代表進(jìn)行了又一輪激烈的討價(jià)還價(jià)，終于在午夜之前宣布達(dá)成了協(xié)議。

最終協(xié)議并未立即公開，因?yàn)轭A(yù)計(jì)談判將繼續(xù)完成技術(shù)細(xì)節(jié)，可能會(huì)延遲最終的通過。歐洲議會(huì)和歐洲理事會(huì)將舉行投票，歐洲理事會(huì)由來自歐盟27個(gè)國(guó)家的代表組成。

根據(jù)彭博社看到的一份歐盟文件，通用人工智能系統(tǒng)的所有開發(fā)者都必須滿足基本的透明度要求，除非它們是免費(fèi)和開源的。這些要求包括：制定可接受的使用政策；提供有關(guān)如何訓(xùn)練模型的最新信息；報(bào)告用于訓(xùn)練模型的數(shù)據(jù)的詳細(xì)摘要；制定尊重版權(quán)法的政策。

文件稱，被視為構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的模型將受到額外規(guī)則的約束。歐盟將根據(jù)用于訓(xùn)練模型的算力來確定其風(fēng)險(xiǎn)等級(jí)。

專家稱，目前唯一已達(dá)到構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”閾值的模型是OpenAI的GPT-4。歐盟執(zhí)行機(jī)構(gòu)可以根據(jù)數(shù)據(jù)集大小、是否在歐盟擁有至少10000名注冊(cè)商業(yè)用戶或注冊(cè)最終用戶數(shù)量以及其他指標(biāo)來指定哪些模型構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”。

這些功能強(qiáng)大的模型應(yīng)簽署行為準(zhǔn)則，同時(shí)歐盟委員會(huì)將制定更協(xié)調(diào)一致和長(zhǎng)期的控制措施。不簽署行為準(zhǔn)則的開發(fā)者必須向委員會(huì)證明他們遵守《人工智能法案》。開源模型的豁免不適用于被認(rèn)為構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的模型。

這些模型還必須：報(bào)告其能源消耗；在內(nèi)部或外部執(zhí)行紅隊(duì)或?qū)剐詼y(cè)試；評(píng)估和減輕可能的系統(tǒng)性風(fēng)險(xiǎn)，并報(bào)告任何事件；確保使用足夠的網(wǎng)絡(luò)安全控制措施；報(bào)告用于微調(diào)模型的信息及其系統(tǒng)架構(gòu)；如果歐盟制定了更節(jié)能的標(biāo)準(zhǔn)，須遵守這些標(biāo)準(zhǔn)。

令許多人驚訝的是，最具爭(zhēng)議性的談判并非圍繞生成式人工智能，而是實(shí)時(shí)掃描和識(shí)別人臉的工具。該議題在歐盟引發(fā)了一場(chǎng)長(zhǎng)期的、情緒化的爭(zhēng)論。去年春天，歐洲議會(huì)投票決定全面禁止這些工具，而歐盟國(guó)家一直在推動(dòng)國(guó)家安全和執(zhí)法方面的豁免。最終，雙方同意限制該技術(shù)在設(shè)有更多護(hù)欄的公共場(chǎng)所的使用。方案將明確規(guī)定執(zhí)法部門如何使用人工智能監(jiān)控?cái)z像頭，如何將其部署在關(guān)鍵基礎(chǔ)設(shè)施中。

法國(guó)和德國(guó)擔(dān)心影響本國(guó)AI企業(yè)競(jìng)爭(zhēng)

歐洲一直是人工智能監(jiān)管最領(lǐng)先的地區(qū)之一，早在2018年就已經(jīng)開始著手制定未來的人工智能法案。近年來，歐盟領(lǐng)導(dǎo)人試圖將科技監(jiān)管提升到新的水平，以類似于醫(yī)療保健或銀行業(yè)的監(jiān)管。歐盟已經(jīng)頒布了與數(shù)據(jù)隱私、競(jìng)爭(zhēng)和內(nèi)容審核相關(guān)的影響深遠(yuǎn)的法律。

《人工智能法案》初稿于2021年公布，最初的版本沒有提及通用人工智能。但去年11月底面世的ChatGPT展示了人工智能的先進(jìn)能力，引起全球轟動(dòng)，使得監(jiān)管問題變得緊迫起來。

中國(guó)政府已出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》，對(duì)數(shù)據(jù)使用和推薦算法施加了一些限制。在美國(guó)，拜登政府最近發(fā)布了一項(xiàng)行政命令，部分重點(diǎn)關(guān)注人工智能對(duì)國(guó)家安全的影響。美國(guó)一些城市和州已通過立法，限制人工智能在某些領(lǐng)域的使用，例如警方調(diào)查和招聘。一些監(jiān)管機(jī)構(gòu)正在利用現(xiàn)有法律來監(jiān)管人工智能，美國(guó)國(guó)會(huì)議員正在探索立法。英國(guó)、日本等其他國(guó)家采取了更加傾向不干涉的做法。

在美國(guó)國(guó)會(huì)沒有采取任何有意義的行動(dòng)的情況下，歐盟的法律將為西方世界隨后的監(jiān)管定下基調(diào)。“歐洲已將自己定位為先鋒，了解其作為全球標(biāo)準(zhǔn)制定者角色的重要性。”負(fù)責(zé)組織談判的歐盟內(nèi)部市場(chǎng)專員蒂埃里·布雷頓（Thierry Breton）在一份聲明中表示。

新法案將受到全球密切關(guān)注，不僅會(huì)影響OpenAI、谷歌、Meta和微軟等主要人工智能開發(fā)企業(yè)，還將影響其他預(yù)計(jì)將在教育、醫(yī)療保健和銀行等領(lǐng)域使用該技術(shù)的企業(yè)。各國(guó)政府也越來越多地轉(zhuǎn)向人工智能，運(yùn)用在刑事司法和公共利益分配領(lǐng)域。

但在歐盟內(nèi)部，法國(guó)和德國(guó)曾表示擔(dān)心對(duì)通用人工智能模型實(shí)施過多監(jiān)管，可能淘汰法國(guó)的Mistral AI或德國(guó)的Aleph Alpha等公司。歐盟努力在保護(hù)本地區(qū)人工智能初創(chuàng)企業(yè)的愿望與潛在的社會(huì)風(fēng)險(xiǎn)之間取得平衡，這是談判的一個(gè)關(guān)鍵癥結(jié)。

法國(guó)數(shù)字部長(zhǎng)讓-諾埃爾·巴羅（Jean-Noel Barrot）表示，法國(guó)政府將在未來幾周內(nèi)審查這一妥協(xié)方案，以確保“保留歐洲開發(fā)自己的人工智能技術(shù)的能力”。西班牙負(fù)責(zé)數(shù)字化和人工智能的國(guó)務(wù)秘書卡梅·阿蒂加斯（Carme Artigas）指出，根據(jù)協(xié)議，Mistral AI不需要滿足對(duì)通用人工智能的控制，因?yàn)樵摴救蕴幱谘邪l(fā)階段。

法案的執(zhí)行情況仍不明朗，其涉及27個(gè)國(guó)家的監(jiān)管機(jī)構(gòu)，并要求在政府預(yù)算緊張的情況下聘請(qǐng)新的專家。當(dāng)企業(yè)測(cè)試新規(guī)則時(shí)，可能會(huì)面臨法律挑戰(zhàn)。以前的歐盟立法，包括具有里程碑意義的《通用數(shù)據(jù)保護(hù)條例》因執(zhí)法不均而受到批評(píng)。

愛爾蘭公民自由委員會(huì)高級(jí)研究員克里斯·施里沙克（Kris Shrishak）向媒體表示：“歐盟的監(jiān)管能力受到質(zhì)疑。”“如果沒有強(qiáng)有力的執(zhí)行，這項(xiàng)協(xié)議就沒有任何意義。”