2024年，注定是人工智能年。

2024年10月8日和9日，諾貝爾獎物理獎和化學獎花落人工智能。兩位物理學獎得主獲得諾獎的依據是“基于人工神經網絡實現機器學習的基礎性發現和發明”。三位化學獎得主獲獎的依據是“利用人工智能計算蛋白質設計，提高蛋白質結構預測效率”。

除了科研盛況，人工智能繼續主導商業領域的競爭。2024年，不僅Meta、谷歌、亞馬遜、Open AI等頭部人工智能公司繼續在大模型領域你追我趕，紛紛推出自己研發的生成式人工智能產品，馬斯克旗下的特斯拉也在諾獎頒獎后的第三天召開主題為“We Robot”的發布會，推出自己的Optimus人形機器人和賽博無人駕駛出租車。

不過，與人工智能研究與應用的盛況相對應的是，就在幾天前，在以硅谷聞名遐邇的加州是全球人工智能產業的中心，人工智能的立法遭遇挫折。

當地時間9月29日，加州州長凱文·紐森（Gavin Newsom）否決了此前參眾兩院通過的人工智能監管法案—前沿人工智能模型安全創新法（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act）。

該法案被否決引出人工智能產業發展中的核心問題：人工智能監管如何在創新與安全之間權衡取舍？

前沿人工智能模型安全創新法給人工智能公司帶上緊箍咒

前沿人工智能模型安全創新法的立法背景是，加州政府運行秘書要評估人工智能研發及生產經營活動對加州政府、加州企業和居民帶來的影響。

人工智能技術給社會帶來的影響是廣泛的。比如，人工智能帶來的技術之一，深度偽造（deep fake），就已經給美國社會帶來巨大的影響。其具體影響我們在下文詳述。

前沿人工智能模型安全創新法對人工智能開發公司施加了嚴厲的監管要求。其主要內容包括：

（1）立法規定納入監管的模型標準。如果人工智能開發公司將要開發的模型符合立法規定的標準，則在開發并訓練模型前，公司必須向監管部門提交材料，證明其符合開發條件且遵守開發標準。比如，公司必須證明其有能力在模型出現立法所描述的危險時一鍵啟動死亡開關（kill switch），立刻關掉模型。

（2）立法要求人工智能開發公司保有一份安全議定書。議定書的有效期從人工智能開發公司啟動開發并訓練模型到模型可以付諸使用的期間，以及此后的五年。在此期間，公司必須保有與模型相關的材料。如果州檢察長要求提交材料，公司必須隨時提交，供后者審查。

（3）規定三項禁止使用的行為。禁止為了實現與模型訓練或模型評估沒有直接聯系的目的使用立法規定的模型或模型衍生品；禁止為了實現不符合立法的目的使用立法規定的模型或模型衍生品；禁止制作可能造成重大損害的用于政府、商業或公共場合使用的模型或模型衍生品。

(4)從2026年1月1日起，人工智能開發公司聘請外部審計，每年對公司是否合規，即符合以上立法的監管要求制作獨立的審計報告。

圍繞“前沿人工智能模型安全創新法”的各方博弈

以上提及的只是法案對人工智能開發公司施加的監管條件的主要部分。不過，這些就足以讓硅谷科技公司們難以接受了。

法案幾乎遭到硅谷整個人工智能產業的強烈反對。（有趣的是，馬斯克也成立了人工智能開發公司，但是，馬斯克是唯一支持法案的科技巨頭。）

反對的主要理由是：法案給人工智能開發公司帶來太大的合規風險，因而扼殺科技創新。

比如，反對者認為法案把立法者想象的風險強加給科技公司，強迫模型開發者承擔預期之外的風險成本。

再比如，反對者認為法案的立法者把他們能想象出來的以及（甚至）想象之外的各種可能的損害（而且這些損害既包括模型本身造成的，也包括第三方造成的）全部要求模型開發公司承擔損害賠償責任。

這樣的法案一旦通過，無異于給人工智能開發公司戴上緊箍咒。誰還敢開發人工智能模型？

反對者不僅包括人工智能開發公司，還包括為人工智能開發提供融資的各種風險投資公司。而且，很多學術界人士，比如人工智能研究人員也反對該法案。很多研究人員擔心，法案規定的損害賠償責任范圍太廣，可能殃及研究人員。

法案的支持者基本上從科技倫理、公共安全的角度為之辯護。比如，法案的發起人之一，加州參議員斯考特·維納（Scott Wiener）就痛批紐森否決法案使得加州立法機構讓人工智能承擔責任的努力遭受重大挫折。

維納認為，大型人工智能科技公司擁有強大的科技力量，卻不受政府政策的約束，這是很危險的。該法案被否決進一步癱瘓州議會管控科技產業的能力。

紐森雖然否決了法案，但是，他沒有直白地表達對法案是非對錯的立場，而是另辟蹊徑，為否決法案尋找理由。

紐森認為，法案只規范大規模的耗資巨大的模型，沒有把小規模的模型納入規范。人工智能產業發展迅速，很多小規模、專業化模型造成的損害不比大模型小。所以，紐森認為法案的規范力度遠遠不夠。

紐森用巧妙的否決理由既避免在正反兩種觀點中間選邊站隊，又為未來優化立法，完善對人工智能的監管留下充分的空間。可謂用心良苦！

人們對人工智能的認知有限，監管思路尚難統一

實際上，人們對人工智能的認知仍然有限，人工智能產業突飛猛進的發展給監管理論和立法實踐帶來諸多難題。

以前文提到的深度偽造為例。這是一種利用機器學習（machine learning）模型將圖片和視頻合并疊加到原圖片或視頻上，借助神經網絡技術進行大樣本學習，將個人的聲音、面部表情及身體動作拼接合成虛假內容的人工智能技術。

通過深度偽造技術合成的形象已經達到可以亂真的水平。比如，2018年4月，一段美國前總統奧巴馬抨擊時任總統特朗普的講話視頻在社交網絡上得到200多萬次的播放和五萬多次的點贊。但是，事后人們才知道這不是真正的奧巴馬，而是深度偽造技術合成的。

但是，我們不能下結論說深度偽造技術不好。深度偽造技術本身是中性的，既可以用來創造價值，也可以被用來詐騙甚至犯罪。

問題是，如何立法規范這種技術呢？這種技術深入到著作權、傳媒、財產權、合同等各個領域。單獨為其立法成本太高，預期適用效果不會很好。

再比如，自動駕駛也給監管理論和立法帶來難題。自動駕駛是靠人工智能操作的。如果自動駕駛造成事故，誰應該承擔責任？承擔責任的標準如何界定？

當前侵權法理論中的過錯責任和無過錯責任是“前人工智能時代”創設的。在人工智能時代簡單套用過錯責任和無過錯責任，仿佛用牛頓的經典力學解釋愛因斯坦的相對論。

人工智能屬于新興戰略性高科技產業。由于人們對人工智能的認知仍然有限，導致監管理論尚不成熟，在此背景下，各國立法基本尚處于摸索階段。所以，各國的監管思路尚不統一。

比如，歐盟對人工智能的監管偏重安全。歐盟人工智能法案（EU AI Act）要求人工智能開發公司開發出來的人工智能產品能否接受人類的監督，達到立法規定的精準、穩健性和網絡安全標準（14、15條）。人工智能開發公司必須向用戶提供明確的信息，采用風險管理和質量管理系統（第19、3、17條）。

為了有效地實施歐盟人工智能法案，法案規定，歐盟成立歐盟人工智能理事會(European AI Board)作為中央監管機構。與之相呼應，各成員國成立人工智能監管機構。

同處歐洲但退出歐盟的英國，則采用偏重創新的立法理念。英國的具體監管思路是，既要推動人工智能的發展，又要應對人工智能的發展可能給不同部門或產業帶來的風險。

在此監管思路下，英國不單獨為人工智能立法，更不對人工智能專門設立監管機構，而是要求各部門制定規則，應對人工智能的發展可能給各部門帶來的風險。比如，醫療部門會審視人工智能的發展對醫療產業和部門帶來的影響，然后，制定規則，應對可能的風險。

這樣，英國的人工智能監管思路可以總結為：把人工智能的監管權下放給各部門，各部門負責建立、發展并監督“負責任的人工智能”。

實際上，我國近年來各部門也在積極應對人工智能的發展及其監管。比如，針對人工智能合成內容。2021年，中國國家網信辦、國家發改委、教育部、科技部、工信部、公安部、市場監管總局、廣電總局等有關主管部門已出臺《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》等法律法規，對計算機合成內容進行管控。

《互聯網信息服務算法推薦管理規定》要求對算法生成合成的信息作顯著標識，并要求提供互聯網新聞信息服務的算法推薦服務提供者和使用者，不得生成合成虛假新聞信息。

《互聯網信息服務深度合成管理規定》則更加細致地規定了包括智能對話、智能寫作、人臉生成、人臉操控、姿態操控等具有生成或顯著改變信息內容功能的深度合成服務應當遵守的要求，包括以顯著標識的形式向公眾提示。

《生成式人工智能服務管理暫行辦法》進一步對生成式人工智能的開發與使用等進行規范，旨在促進生成式人工智能健康發展和規范應用。

我國人工智能統一立法不能操之過急

近年來，我國法律界主張對人工智能進行統一立法的呼聲很高漲。很多學者憑借法律想象對我國人工智能立法中的問題積極獻言獻策，力圖促成人工智能統一立法早日落地。

比如，有的學者套用民法上的概念不僅界定人工智能的法律主體地位，還給人工智能確定監護人。更多的學者從宏大的視角討論人工智能的立法定位、路徑等宏大問題。

作為一種新興技術，人工智能發展快速，其產業競爭激烈。而且，人工智能技術對一個國家或經濟體在國際競爭中的作用舉足輕重。

在此背景下，對人工智能的監管立法必須慎重。既要規范人工智能技術可能對個體權利及公共安全帶來的損害風險，更要保護并鼓勵創新，避免人工智能產業因為迎合監管而背負過重的合規成本而窒息產業發展。

（作者王佐發為西南科大法學院副教授）