歐洲議會近日以壓倒性票數通過《人工智能法案》，這標志著歐盟掃清了立法監管人工智能（AI）的最后障礙，法案中的相關條款將分階段實施。

在歐盟率先為AI監管立法后，上海國際問題研究院研究員、網絡空間國際治理研究中心秘書長魯傳穎向澎湃新聞（www.kxwhcb.com）表示，歐盟是否能夠在該領域起到帶領作用，還有待驗證。在法案尚未生效、本身面臨創新和不足并存的情況下，這個舉措能否緩解“AI威脅論”、推動各方在AI監管領域合作等尚無定論。

當地時間2024年3月13日，法國斯特拉斯堡，歐洲議會議員就人工智能法案進行投票。視覺中國 圖

布魯塞爾效應，還是陷阱？

2021年4月，歐盟委員會提出《人工智能法案》提案的談判授權草案，將嚴格禁止“對人類安全造成不可接受風險的AI系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。當ChatGPT發布后引起投資熱潮、公眾出現對AI的狂熱情緒時，該立法草案讓歐盟立法者在AI領域占了先機。2023年12月，歐洲議會、歐盟成員國和歐盟委員會三方就《人工智能法案》達成協議。

有分析稱，歐洲議會通過《人工智能法案》，或許會為西方國家在AI治理方面奠定基調。但有相關企業擔憂法案“走得太遠”，而數字監管機構認為法案“做得還不夠”。在法案通過前，歐盟立法者曾于3月12日進行辯論，當時有聲音指出，歐盟在這個問題上還有許多重要的工作要做。

《華爾街日報》稱，歐洲議會通過《人工智能法案》，表明歐盟是一個“有影響力的全球規則制定者”。美國有線電視新聞網（CNN）刊文指出，歐洲議會通過該法案，與美國形成鮮明對比。2023年，參議院多數黨領袖舒默曾罕見地把該問題放到議程首位，但美國尚未在AI聯邦立法方面取得任何有意義的進展。

對于歐盟是否能在AI監管領域起到帶領作用，魯傳穎對澎湃新聞表示，由歐盟單方面制定的規則對國際規則和各國國內政策產生重要影響的現象被稱為“布魯塞爾效應”。一方面，法案的監管思路和創新舉措對各國都具有一定的參考價值，另一方面，法案在處理對技術進步、產業發展的制約也受到了廣泛質疑。因此，法案最終是“布魯塞爾效應”還是“布魯塞爾陷阱”還有待時間檢驗。

歐盟目前計劃在歐洲委員會下屬建立一個AI辦公室。從實際的角度來看，這個辦公室將是歐盟在AI監管領域的關鍵執法者，該機構有權要求發展生成式AI的公司提供有關信息，甚至有權能夠阻止相關系統在歐盟運作。

在魯傳穎看來，法案既有創新之處，也面臨著挑戰和不足。“法案有三個比較重要的創新之處。第一是開啟了AI監管進程。在這之前，AI監管一般都是縱向監管。橫向監管是適用于所有部門和應用的法律規則，覆蓋所有領域和人群，因此對法律的要求也更高，更難以達成共識。這也是為什么法案在強調嚴格監管的同時，也注重監管創新，例如鼓勵各國開展‘沙盒測試’，給中小企業提供更多的便利和支持等。第二是建立了基于風險等級的監管體系。歐盟以人權和安全為基準把AI風險分為四個等級：禁止的行為、高風險系統、有限風險系統和最低風險系統。不同類別的AI系統需要遵守不同的監管要求。第三是為配合法案落地建立了一整套的執法體系和多層次的監督和執行機制，包括歐盟成員國的國家監管機構等。”

魯傳穎稱，僅從文本角度來看，各方對于法案的質疑主要包括三個方面。一是法案沒有完全反映AI技術的復雜性。法案追求的確定性，與AI技術存在的不確定性之間存在一定矛盾。對于一個快速發展的戰略性技術，盡管安全至關重要，但過多的資源投入到安全中會影響技術的進步。

二是法案監管思路和范疇跟不上快速迭代的AI技術。盡管法案以風險等級劃分來實施監管，但技術的進步會讓不同風險等級之間的界限不斷打破。AI技術的快速進步有可能導致投入大量人力、物力的法案尚未生效就已經落后。

三是監管和創新之間的平衡問題。法案主要針對高風險的AI系統，這些要求給AI的開發和創新帶來一定的負擔和障礙。對于大企業而言，面臨著消極和積極兩個方面的影響。消極面是大量合規要求會阻礙技術的進一步發展和市場拓展，積極面則是合規門檻高企會阻止更多企業進入AI領域，有助于形成壟斷。這導致了一些中小型的AI企業或研究機構的不公平，它們難以承擔相應的合規成本和風險。

歐盟法案遇上“AI威脅論”

CNN日前報道稱，美國國務院委托Gladstone AI公司撰寫的一份報告表明，AI可能對人類構成“滅絕級”威脅，美國必須進行干預。根據這份報告，最先進的AI系統可能被用作武器、AI實驗室擔憂對開發系統“失去控制”，且在AI方面存在“軍備競賽”，為此報告呼吁采取措施應對這個威脅，包括實施緊急監管保障措施等。

對于AI“威脅論”，復旦大學新聞傳播學院教授鄧建國表示，根據這份報告中的“AI威脅”，目前看到的原因有幾個：一是AI日益強大，但其運行原理如黑箱，連專家都很難解釋清楚，更難預測其結果，而人類對“不可知之物”容易產生恐懼。二是AI的底層邏輯偏理性，人類一旦啟動它，它很可能按照絕對理性的邏輯或者自說自話地執行下去，哪怕以犧牲人類為代價。

比如所謂的“回形針效應”，指的是如果一個AI系統的目標被設定為最大化某個特定目標，那么它很可能會忽略了其他因素，瘋狂、徹底、不惜一切代價地去實現這個目標，比如調動世界一切資源（包括電力和算力）以生產盡量多的“回形針”。三是擔心AI不加區別地擴散，會被一些國家或組織利用威脅到歐美的社會輿論和國家安全。比如2016年，（美國前總統）特朗普的團隊曾在劍橋數據分析公司的幫助下，非法獲得了8000萬臉書用戶的信息，并向他們精準投放了特朗普的正面競選信息，被認為干擾了選舉。今天的AI比社交機器人更為強大，干擾選民認知和造成國家安全危機的能力更強。四是AI容易造成個人數據不當利用和版權侵犯等。

《人工智能法案》能否暫緩外界對于“AI威脅論”的擔憂？鄧建國認為，從整體來看，不同的人群對AI風險有不同的立場，其背后有不同的原因。在一定程度上，歐洲議會通過《人工智能法案》回應了這些原因，因此一定程度上能夠緩解外界對于AI會帶來威脅的擔心。但普通人對AI風險的恐懼和樂觀，在于他們接觸了哪些媒介內容，所以不必太較真。

法案能否緩解沖擊、推動合作？

美聯社分析稱，今年是“超級大選年”，但近幾個月來，AI中的“深度偽造”技術已經在社交媒體上對歐洲和亞洲多地的選舉產生了影響，這種情況被認為“是一個警鐘”。 科技巨頭谷歌日前表示，將限制旗下AI聊天機器人Gemini回答有關今年全球各地大選的問題，以避免出現失誤的可能。此外，歐盟也向臉書、X（原推特）等社交平臺正式發出通知，要求這些平臺認識到AI對選舉會構成的風險，以及說明平臺如何應對、防范這些風險。

歐盟率先為AI治理立法，是否能從監管的角度緩解新技術帶來的沖擊，以及推動各方就這個問題的合作？魯傳穎認為，從監管對象來看，法案主要針對AI系統的開發者，與《通用數據條例》涉及到的廣泛數據收集者、存儲者和處理者相比，門檻要高得多。因此，法案的監管對象更像是歐盟《數字服務法》中所指出的“守門人”。

從監管效果角度來看，法案僅僅是一個開始，其落地舉措還需要大量的技術標準和最佳實踐的支持。也就是說，法案最終落地還要依靠國際標準組織的成果，這也影響了“布魯塞爾效應”的發揮。

在推動各方合作的層面，鄧建國分析稱，“在世界范圍內存在著一個‘AI發展水平鴻溝’，導致’AI風險感知鴻溝’的出現。即使在同一國家內部，不同行業對AI風險的曝光度不同，所以感知也不同。”

“我們可以用‘漣漪’來比喻。在AI 發展和風險感知上，西方發達國家處于漣漪的中心，其他國家和地區位于AI的影響或威脅的中間或者外圍。在漣漪不同的位置，AI風險感是分布不均。如霍金、庫茲韋爾、辛頓、馬斯克等人都擔心AI風險，是因為他們處于漣漪的中心。”

鄧建國認為，合作需要基礎，比如共識、信任和對價資源等。沒有這些前提條件，很難談合作。如前所述，AI在不同地區發展的水平、帶來的影響和風險認知不同。目前各方在AI發展上存在著越來越大的差距，加上一些國家治理AI是出于國家安全考慮，甚至有偏冷戰和敵我思維，因此各方在AI治理上實現有誠意的合作的可能性很小。