美國(guó)加州已成人工智能監(jiān)管斗爭(zhēng)焦點(diǎn)。日前，美國(guó)人工智能初創(chuàng)企業(yè)、科技巨頭、學(xué)術(shù)界聯(lián)合反對(duì)加州安全法案SB-1047（《前沿人工智能模型安全創(chuàng)新法案》），認(rèn)為該法案將使得AI創(chuàng)新冷卻，但支持者認(rèn)為對(duì)AI的監(jiān)管比對(duì)理發(fā)店的監(jiān)管更少。

8月6日，“AI教母”李飛飛在社交媒體上表示，雖然這項(xiàng)法案本意是好的，但它不僅很難達(dá)到它的目的，還會(huì)深深傷害人工智能學(xué)術(shù)界、開源社區(qū)等。李飛飛表示，人工智能是一項(xiàng)文明技術(shù)，將對(duì)每個(gè)人產(chǎn)生深遠(yuǎn)的影響。人工智能政策必須鼓勵(lì)創(chuàng)新，設(shè)置適當(dāng)限制，并減輕這些限制的影響；否則，最好的結(jié)果是達(dá)不到目標(biāo)，最壞的情況下是導(dǎo)致可怕甚至是意想不到的后果。

但杰弗里·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等計(jì)算機(jī)科學(xué)研究人員以及法律學(xué)者共同簽署了一封致加州州長(zhǎng)的信，支持SB-1047法案。信中說，“廢除這項(xiàng)法案的基本措施將是一個(gè)歷史性的錯(cuò)誤，在一年內(nèi)，當(dāng)下一代更強(qiáng)大的人工智能系統(tǒng)發(fā)布時(shí)，這個(gè)錯(cuò)誤將變得更加明顯。”他們將法案描述為“對(duì)這項(xiàng)技術(shù)進(jìn)行有效監(jiān)管的最低限度”。

法案或阻礙創(chuàng)新生態(tài)

SB-1047法案已提交州立法機(jī)構(gòu)，在加州參議院和兩個(gè)州議會(huì)委員會(huì)獲得通過，幾乎沒有遭到反對(duì)意見。該法案要求人工智能大模型的開發(fā)人員進(jìn)行安全測(cè)試，以降低AI技術(shù)造成“災(zāi)難性傷害”的風(fēng)險(xiǎn)。所謂的災(zāi)難性傷害，法案將其定義為造成至少5億美元損失或大規(guī)模人員傷亡的網(wǎng)絡(luò)攻擊。

法案適用于達(dá)到一定計(jì)算能力且訓(xùn)練成本超過1億美元的人工智能模型。無論公司總部在哪里，只要在加州開展業(yè)務(wù)，都被涵蓋在監(jiān)管范圍內(nèi)。李飛飛說，這種閾值的設(shè)定是武斷的，這一措施非但不會(huì)提供保障，只會(huì)限制包括學(xué)術(shù)界在內(nèi)的各個(gè)部門的創(chuàng)新。“今天，學(xué)術(shù)領(lǐng)域的人工智能模型低于這一門檻，但如果我們要重新平衡私營(yíng)和公共部門人工智能的投資，學(xué)術(shù)界將受到SB-1047的監(jiān)管。我們的人工智能生態(tài)系統(tǒng)將因此變得更糟。”

法案要求，開發(fā)人員必須確保人工智能在開始有危險(xiǎn)行為時(shí)可以被人類關(guān)閉。今年7月，著名AI學(xué)者吳恩達(dá)（Andrew Ng）表示，他對(duì)SB-1047法案深感擔(dān)憂，法案可能會(huì)使人工智能大模型的構(gòu)建者承擔(dān)責(zé)任，如果該法案以目前的形式通過，它將扼殺人工智能模型構(gòu)建者，尤其是開源開發(fā)者。

深度學(xué)習(xí)大牛、紐約大學(xué)教授、Meta首席科學(xué)家楊立昆（Yann LeCun）表示，監(jiān)管機(jī)構(gòu)應(yīng)該監(jiān)管應(yīng)用，而不是技術(shù)，規(guī)范基礎(chǔ)技術(shù)會(huì)阻礙創(chuàng)新。讓技術(shù)開發(fā)人員為不良使用承擔(dān)責(zé)任，只會(huì)阻止技術(shù)發(fā)展。最奇怪的是，所有這些規(guī)定都是基于完全假設(shè)的科幻小說場(chǎng)景。楊立昆認(rèn)為，這些監(jiān)管將殺死整個(gè)人工智能生態(tài)系統(tǒng)，“不僅僅是初創(chuàng)公司，還有學(xué)術(shù)研究。”

SB-1047也受到了產(chǎn)業(yè)界的強(qiáng)烈抵制。“如果它按照書面規(guī)定生效，將對(duì)加州的創(chuàng)新產(chǎn)生寒蟬效應(yīng)。”創(chuàng)業(yè)加速器Y Combinator公共政策主管盧瑟·洛威（Luther Lowe）說。Meta和OpenAI也對(duì)該法案提出了擔(dān)憂，谷歌、微軟和Anthropic則提出了冗長(zhǎng)的修正案。

反對(duì)者說，該法案沒有具體規(guī)定這些測(cè)試應(yīng)該是什么，也沒有規(guī)定由誰組成一個(gè)新的委員會(huì)來監(jiān)督遵守情況。微軟在概述對(duì)該法案的反對(duì)意見信中表示，支撐該法案監(jiān)管架構(gòu)的基本要素尚未到位，有可能導(dǎo)致投資錯(cuò)位、產(chǎn)生誤導(dǎo)性結(jié)果，以及錯(cuò)失集中資源的機(jī)會(huì)。

反對(duì)者的另一個(gè)擔(dān)憂是，如果存在不合理的風(fēng)險(xiǎn)，可能導(dǎo)致或造成嚴(yán)重傷害，該法案將禁止發(fā)布人工智能大模型。“這個(gè)模糊的標(biāo)準(zhǔn)創(chuàng)造了一個(gè)法律雷區(qū)。”風(fēng)險(xiǎn)投資公司安德森·霍洛維茨（Andreessen Horowitz）的合伙人安妮·米德哈（Anjney Midha）表示，“目前的技術(shù)根本無法保證不會(huì)出現(xiàn)這些假設(shè)的情況。”米德哈認(rèn)為，該法案將阻止大型開發(fā)商向公眾提供模型，從而破壞依賴這種開放性進(jìn)行創(chuàng)新的生態(tài)系統(tǒng)。

加州是許多人工智能創(chuàng)新的發(fā)源地。吳恩達(dá)說，他擔(dān)心這個(gè)反競(jìng)爭(zhēng)、反創(chuàng)新的提案在立法機(jī)構(gòu)中得到了如此多的關(guān)注。“更糟糕的是，其他司法管轄區(qū)經(jīng)常效仿加州，如果他們?cè)谶@種情況下這樣做，那將是可怕的。”

對(duì)AI的監(jiān)管比理發(fā)店少

“我并不反對(duì)人工智能治理。”李飛飛在署名文章中表示，過去一年與美國(guó)總統(tǒng)拜登的多次對(duì)話中，她表達(dá)了需要一種“登月計(jì)劃”的心態(tài)來刺激美國(guó)人工智能教育、研究和發(fā)展。“然而，SB-1047的限制過于武斷，不僅會(huì)使加州的人工智能生態(tài)系統(tǒng)降溫，還會(huì)對(duì)整個(gè)國(guó)家的人工智能產(chǎn)生令人不安的下游影響。”

但舊金山民主黨州參議員斯科特·維納（Scott Wiener）表示正與科技行業(yè)接觸，對(duì)改革持開放態(tài)度。“科技行業(yè)有些人反對(duì)任何形式的監(jiān)管，不管它是什么，即使是合理的、寬松的監(jiān)管。”維納認(rèn)為，該法案只是將該行業(yè)制定的安全標(biāo)準(zhǔn)編纂成法律，“這并不是過分的規(guī)定。”

杰弗里·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等計(jì)算機(jī)科學(xué)研究人員以及法律學(xué)者共同簽署了一封致加州州長(zhǎng)的信，支持SB-1047法案，否認(rèn)該法案會(huì)阻礙創(chuàng)新的說法，并指出按照書面規(guī)定，該法案只適用于最大的人工智能模型。信中說，“廢除這項(xiàng)法案的基本措施將是一個(gè)歷史性的錯(cuò)誤，在一年內(nèi)，當(dāng)下一代更強(qiáng)大的人工智能系統(tǒng)發(fā)布時(shí)，這個(gè)錯(cuò)誤將變得更加明顯。”他們將法案描述為“對(duì)這項(xiàng)技術(shù)進(jìn)行有效監(jiān)管的最低限度”，“相對(duì)于我們面臨的風(fēng)險(xiǎn)規(guī)模，這是一項(xiàng)非常寬松的立法。”

本吉奧和辛頓都是圖靈獎(jiǎng)獲得者，與楊立昆同被稱為“人工智能教父”。“對(duì)可能帶來災(zāi)難性風(fēng)險(xiǎn)的人工智能系統(tǒng)的監(jiān)管比對(duì)三明治店或理發(fā)店的監(jiān)管要少。”信中說，“作為最了解這些系統(tǒng)的一些專家，我們可以自信地說，這些風(fēng)險(xiǎn)是可能的而且是足夠重要的，需要進(jìn)行安全測(cè)試和常識(shí)性預(yù)防措施。”

“我擔(dān)心，科技公司在爭(zhēng)奪市場(chǎng)份額和利潤(rùn)最大化的過程中，無法獨(dú)自解決這些重大風(fēng)險(xiǎn)。這就是為什么我們需要為那些處于這場(chǎng)競(jìng)賽前沿的人制定一些規(guī)則。”本吉奧說。

上個(gè)月在接受Vox采訪時(shí)，維納說，該法案已經(jīng)被修改，以回應(yīng)來自開源社區(qū)的批評(píng)。當(dāng)前版本免除了原始開發(fā)人員在模型不再受其控制時(shí)的關(guān)閉要求，并且當(dāng)其他人對(duì)其模型進(jìn)行重大修改時(shí)限制了原始開發(fā)人員的責(zé)任，將重大修改版本視為新模型。

在華盛頓，從美國(guó)范圍內(nèi)監(jiān)管人工智能的提議幾乎沒有取得進(jìn)展。但科羅拉多州和猶他州最近通過了美國(guó)首批人工智能監(jiān)管法律，監(jiān)管范圍比加州SB-1047法案更窄。倡導(dǎo)對(duì)人工智能模型訓(xùn)練數(shù)據(jù)進(jìn)行監(jiān)管的非營(yíng)利組織透明度聯(lián)盟(Transparency Coalition)稱，目前美國(guó)各州立法機(jī)構(gòu)正在審議大約400項(xiàng)與人工智能相關(guān)的法案。加州立法機(jī)構(gòu)大約有30項(xiàng)法案正處于不同階段，其目標(biāo)包括從保護(hù)知識(shí)產(chǎn)權(quán)到擴(kuò)大兒童色情的定義，將人工智能生成的圖像包括在內(nèi)。