為有效應對人工智能技術發展可能引發的社會風險及其全新特征，必須有針對性地變更傳統風險治理模式，在利用人工智能技術提升風險識別與預警效率，做到“基于人工智能的治理”的同時，有效防范與預警人工智能技術應用可能帶來的風險，實現“面向人工智能的治理”，構建“技術賦能社會治理、治理防范技術濫用”的雙向治理邏輯。

黨的二十屆三中全會提出：“加強網絡安全體制建設，建立人工智能安全監管制度。”這是黨中央統籌發展與安全，積極應對人工智能安全風險作出的重要部署。為了預判和有效應對人工智能技術發展產生的風險，以及人工智能應用帶來的真實影響，有效推進人工智能技術的應用發展，必須深入解析智能技術引發社會風險的全新特征，對社會風險進行前瞻預測、科學約束、正確引導，構建兼顧發展與安全的人工智能社會風險綜合治理體系，為社會治理效能提升注入動能。

人工智能時代社會風險的四個全新特征

當前，全球進入具有高度不確定性的“風險社會”時代，人工智能技術正在改變現代社會的運行邏輯與規則，人類社會的價值理念、行為方式正在被系統化重構，由此產生的社會風險主要呈現為蔓延性、級聯性、衍生性和滯后性四個全新特征：

其一，人工智能提升了風險信息的擴散速度與范圍，社會風險具有蔓延性。人工智能技術降低了信息生成難度，提升了信息擴散的廣度和深度，信息擴散使得風險事件的影響范圍級數擴大，形成了極強的蔓延性。同時，人工智能通過情感分析和行為預測，能夠識別和放大用戶的情緒和行為。一類風險事件如果引發了強烈的諸如恐慌、憤怒等情緒反應，人工智能系統可能會優先推薦和傳播這類信息，進一步加劇公眾情緒，使得風險信息具有極強的感染性和蔓延性，如果不加以有效監管和控制，將對社會安全和社會秩序造成極大影響。

其二，人工智能模糊了社會系統虛實邊界，社會風險具有級聯性。人工智能技術使得人與人、人與物、物與物之間高度耦合，虛擬世界和現實世界的界限變得模糊，形成一個復雜的網絡系統。眾多社會活動通過虛擬平臺進行，又嵌入現實情境，虛擬世界中的數據泄露可能會導致現實世界中的身份盜用，社交媒體上的輿論可以迅速影響現實世界中的社會行為和決策。反之，現實世界中的安全事件也會通過數據傳輸影響虛擬世界的安全，虛實互動造成社會風險的級聯效應。智能技術賦能下不同社會系統間高度互聯，眾多決策過程實現自動化，然而自動化系統的錯誤決策可能引發一系列連鎖反應，導致風險的級聯性傳播。

其三，人工智能引發了一系列次生風險和風險鏈，社會風險具有衍生性。人工智能技術的應用可能會引發初始風險，風險在解決或緩解過程中，會進一步引發一系列次生風險，形成復雜的風險鏈條。風險事件可以在不同領域之間迅速擴散，在多個層次上傳導，形成次生風險。例如網絡攻擊不僅會導致信息泄露，還可能通過影響物聯網等引發現實世界中的事故，如交通堵塞、醫療設備故障等。數據錯誤或算法不當也可能衍生一系列次生風險。以算法偏見為例，其所導致的決策機制不公平現象，往往會引發社會的不滿和沖突。而風險事件通常又會造成公眾行為和心理的變化，進一步衍生新的次生風險，形成風險鏈。

其四，人工智能隱匿了部分風險事件的影響，社會風險具有滯后性。人工智能技術依賴大量數據進行訓練和操作，依靠算法進行決策，數據泄露或濫用可能不會立即造成明顯影響，決策過程和結果可能在短期內看不出問題，但隨著時間的推移，數據濫用和算法偏見的累積效應會逐漸顯現。同時，人工智能技術還高度依賴技術基礎設施和自動化系統，這些系統故障或設計缺陷可能在短期內不易發現，但隨著時間的推移，問題逐漸積累可能導致系統性風險。智能技術的應用對社會行為和心理有深遠影響。例如，長期使用智能推薦系統可能導致信息繭房效應，使用戶的視野變狹窄，進而影響社會的多樣性和包容性。

實現“面向人工智能的治理”的四種策略

為有效應對人工智能技術發展可能引發的社會風險及其全新特征，必須有針對性地變更傳統風險治理模式，在利用人工智能技術提升風險識別與預警效率，做到“基于人工智能的治理”的同時，有效防范與預警人工智能技術應用可能帶來的風險，實現“面向人工智能的治理”，構建“技術賦能社會治理、治理防范技術濫用”的雙向治理邏輯。

首先，利用多模態數據識別復雜交互關系，提升風險識別與預警的準確性。多模態數據是指對于同一描述對象，通過不同領域或視角獲取的數據，用來表示不同形態的數據形式或同種形態的不同格式。多模態數據融合技術能夠充分挖掘和利用數據間的互補信息，更全面地表征對象特征，識別或推斷更復雜的交互關系，實現對社會復雜巨系統的實時感知、關聯分析和態勢預測，不僅可以提高風險識別的準確性，構建更具靈活性的風險評估和預警框架，實現風險管控的前瞻性和動態性，還可以有效整合風險預警與響應過程中彼此獨立的決策過程，為不同決策主體間的協同提供基礎方法和工具。因此，可以通過整合來自不同領域的不同模態數據，將文本、圖像、音頻和傳感器數據等不同模態的數據進行綜合分析，應用機器學習、深度學習等技術，識別數據之間的復雜交互關系。促進政府、企業、社會組織、學術機構等多方協作，建立跨部門的信息共享機制，整合多模態數據資源，構建實時預警系統，及時發現和預警潛在風險。

其次，結合智能技術發展應用水平制定個性化風險治理方案，防止出現風險應力集中現象。由于不同區域間經濟社會發展與人工智能技術應用水平存在差異，進而導致風險響應能力的不一致，社會風險的跨區域傳播演化呈現不均衡的現象。需要結合區域發展實際制定個性化風險治理方案，通過多主體多區域協同降低局部應力，避免形成社會系統的結構性破壞。因此，人工智能技術的風險治理首先要評估不同區域的人工智能技術應用水平，并分析包括應急資源、技術基礎設施、管理能力在內的風險響應能力，識別區域風險應對的強弱點。根據不同區域的具體情況，制定個性化的風險治理策略。例如，經濟發達地區可以重點加強技術安全和數據保護，而經濟欠發達地區則需要提升基礎設施建設和技術普及。通過政策支持和資金投入，推動技術落后地區的智能技術應用水平提升，縮小區域間技術差距和風險響應能力差異。

再次，平衡技術發展與風險規制，優化風險治理總成本，做到數智技術既“管得住”又“放得活”。人工智能風險治理需要兼顧“安全”與“發展”，既要規避治理失效造成的經濟社會損失，又要防止過度治理帶來的經濟社會效益降低。人工智能風險治理的成本包括治理機制生效與失效狀態下風險預防成本、社會失效成本與社會效益損失成本等眾多成本要素。可根據技術的成熟度和應用場景，適時調整監管強度。在技術初期階段，采用寬松監管，鼓勵創新；在技術成熟期，加強監管，確保安全和規范。在制定風險治理策略時，需要量化不同成本要素，進行成本效益分析，選擇最優治理方案，既有效控制風險，又避免不必要的治理成本。同時，為有效降低風險治理成本，可提供政策和資金支持，鼓勵企業和科研機構開展安全技術創新，在推動人工智能技術創新的同時，確保安全保障措施的同步發展。

最后，超前研判人工智能技術發展可能引發的社會風險，妥善制定人工智能社會風險監管制度與標準。人工智能技術的快速發展迭代往往快于政策和法律的制定和調整，導致面向人工智能的治理政策標準具有一定的滯后性。因此，需要將人工智能技術應用嵌入社會治理中，面向人工智能社會風險制定相關的安全監管制度與行業標準，在推動智能技術應用場景建設與發展的同時，確保政策和法律能夠與技術發展同步。應定期進行人工智能技術發展趨勢分析，從技術、倫理、法律、經濟和社會等多個維度進行綜合評估，建立人工智能風險預警機制，及時發現和預判新興技術帶來的潛在風險，研究制定靈活且具有前瞻性的政策和法規。此外，還應積極參與國際標準和法規的制定，建立跨國合作平臺，促進各國在人工智能治理方面的合作與交流，共同應對全球性的技術風險和挑戰。

來源：《文匯報》 2024-08-11

作者簡介

施騫  同濟大學經濟與管理學院黨委書記，東方學者特聘教授，博士生導師，兼任國家智能社會治理實驗綜合基地（上海楊浦）副主任。重點圍繞“綠色”“韌性”“智能”三個維度，從物理—管理—治理的視角開展城市建設、運營與治理一體化研究工作，探索智能社會生態下新一輪城市更新與治理提升策略，實現“智能”的社會治理與“智能社會”的治理中技術與治理的雙向賦能。主持國家自然科學基金青年項目1項、面上項目3項、國際合作項目1項。服務了北京大興國際機場、烏梁素海生態修復等多個 TOD、EOD 以及上海五大新城數字化建設項目。在國內外高質量期刊發表論文50余篇，形成4套行業標準和1項軟件著作權，成果獲教育部高等學校科學研究優秀成果（科學技術）一等獎，上海市科技進步一等獎等獎項。研究領域：(重大)工程項目管理，綠色與可持續建設，風險與應急管理，數字化城鎮建設策劃、規劃與建設管理，智能社會與現代城市治理。

肖超  同濟經管建設管理與房地產系助理教授，碩士生導師。以實現項目全生命周期可持續性為目標，以人工智能技術與網絡科學為工具，以重大基礎設施工程與城市運營項目為代表，分別針對組織維、工程維與技術維進行復雜項目管理領域的科學研究。主持或參與國家級與省部級項目近十項，包括主持國家社科青年基金項目1項，科技部國家重點研發計劃子課題2項，上海市科委科技行動計劃重點專項子課題1項。在國內外高質量期刊發表論文10余篇，入選上海市浦江人才計劃，成果獲上海市優秀工程咨詢成果一等獎1次、上海市教學成果一等獎1次、智能社會治理研究三等獎1次。研究領域：重大工程項目復雜性研究和管理決策支持；區域基礎設施網絡；人工智能技術應用；綠色建筑與可持續建造。

閱讀原文