近年來，人工智能（AI）產業高速發展，其倫理與治理問題也備受各界關注。要如何在不同文化背景下認識人工智能倫理？該構建什么樣的人工智能治理認知邏輯和框架范式？人工智能倫理又要怎樣從理論、理念走向實踐？

“新技術往往會給現有社會倫理規范帶來沖擊，人工智能技術也不是例外，這是人類社會在進步過程當中始終面臨的問題。”6月1日，國家新一代人工智能治理專業委員會主任、清華大學文科資深教授、人工智能國際治理研究院院長薛瀾在2022北京智源大會人工智能倫理、治理與可持續發展論壇上說道。

薛瀾提出，要構建解決信息不對稱的溝通交流平臺，在此基礎上求同存異，找到符合整個社會發展進程的解決機制，同時也要設置針對技術和觀念更新迭代的更新機制。

近年來，我國接連發布了《新一代人工智能治理原則》《新一代人工智能倫理規范》等政策文件，明確提出八項原則，強調將倫理道德融入人工智能全生命周期。科技部中國科學技術信息研究所黨委書記，所長、科技部新一代人工智能發展研究中心主任趙志耘表示，國家科技倫理委員會人工智能分委會正在研究起草人工智能倫理高風險清單，以更好地推動人工智能科研活動的倫理監管工作。

安全和法律問題是底線，不應泛化納入到倫理治理范疇

據不完全統計，目前全球已經發布了100多個人工智能倫理治理相關文件，各國政府、國際組織、學術界和產業界四方力量高度關注人工智能倫理治理問題。

“不應把治理與發展對立起來，而是要通過治理更好地為人工智能發展護航，努力實現人工智能高質量發展與高水平治理的平衡。”趙志耘稱，倫理治理對人工智能活動進行良性引導，是人工智能健康發展重要保障。

趙志耘表示，推動人工智能倫理治理有三項關鍵要求，分別是把握好人工智能發展規律和特點，明確現實的倫理問題；把握好人工智能倫理治理的邊界，在適當范圍內規范人工智能發展；把握好發展與治理的平衡關系，以治理促發展。

她指出，當前人工智能技術尚未達到強人工智能和通用人工智能的水平，因此，不能將未來的倫理風險當做現實的風險，以免給人工智能發展帶來不必要的負面影響。此外，還要明確人工智能治理的底線要求，倫理治理著重要強調促進創新與防范風險相統一的更高需求，而安全和法律問題作為不能越過的底線，不應泛化納入到倫理治理的范疇。

建設人工智能評測平臺（體系），幫助人工智能治理落地

談及人工智能技術發展與應用的社會屬性問題，國家新一代人工智能治理專業委員會委員、上海交通大學人工智能研究院首席顧問教授李仁涵將其歸結為三個方面：安全問題、倫理問題、變異安全問題。

安全問題主要包括國家安全、社會安全、經濟安全、個人安全等方面，倫理問題主要包括隱私、公平、透明、歧視、就業等領域，這兩類安全問題目前已經發生了。而對于變異安全，即人工智能可能不可控而產生對社會與人類的傷害問題，目前尚未發生，屬于非常規問題。

李仁涵表示，人工智能是一種通過機器來模擬人類認知能力的技術，對它的要求也需要像對人的要求那樣，才能和諧相處。對于規范人工智能的治理。應從標準、規則、法律、監管、執法等方面著手。

目前，國際有關組織制定人工智能標準已經進入井噴期，國際人工智能治理工作證加速可操作化。對此，李仁涵認為，當前迫切需要建立相應的規則體系，一方面促進AI可持續健康發展，另一方面有利于與國際接軌，實現全球化發展。同時，也要建設人工智能評測平臺（體系），幫助人工智能治理落地。

李仁涵表示，人工智能評測平臺（體系）將成為未來社會發展的重要基礎設施之一，是人工智能產業賦能各行各業持續健康發展的基礎保障。平臺（體系）也將是相關人才培養、成長、發揮作用的重要舞臺和參與國際規則制定的重要基礎，因此，要盡早規劃，以“三步走”戰略的方式盡快讓評測平臺（體系）落地。

將倫理融入人工智能全生命周期

近年來，AI技術的應用帶來的倫理爭議越發頻繁：美國研究機構發布論文稱AI設計了可自我繁衍的生物機器人Xenobot；此前的2019年，亞馬遜等多家公司使用AI監控系統對

員工進行考核與解雇；而越發普及的人臉識別技術應用也引發社會廣泛關注個人信息安全等問題。

對于人工智能治理的問題，薛瀾認為，要考慮人工智能技術應用給經濟社會運行帶來的直接、間接的收益與成本，進行利弊權衡。要考慮人工智能技術應用對社會各種行為準則規范的影響，此外還要考慮人工智能技術應用長遠的經濟社會影響。

薛瀾建議，要健全人工智能倫理與安全的治理體系；推進法律法規、標準規范的落地實施；建立多主體參與的對話機制，跟蹤技術發展前沿，發現新的安全和倫理問題；建立人工智能前沿研究和應用的倫理評估、預警及管控機制；加強對人工智能研究及應用各相關利益群體的倫理教育，提高倫理意識；積極培育健康的智能文化與數字人文思想；加強人工智能前沿進展的科學傳播和倫理普及，提高公眾的認知水平。

“要將倫理融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構提供倫理指引，促進人工智能發展。”薛瀾稱。

談及將倫理融入人工智能全生命周期，趙志耘表示，政府的責任是引導各類主體去重視倫理規范，嵌入操作，要充分體現全生命周期的理念。她舉例表示，2019年科技部批復了18個城市試點為新一代人工智能創新發展試驗區，在試驗區建設中必不可少的環節是要做倫理治理規范試驗，在每一個試驗區方案中，對于倫理規范，各類主體如何去落實都有相應的操作規范。

人工智能變革創新模式與社會治理模式

人工智能領域的倫理問題與其他領域倫理問題何本質差異？這種差異對人工智能倫理治理范式又提出了怎樣的要求？

對此，中科大機器人實驗室主任、CAAI人工智能倫理治理工委會主任、全球人工智能理事會執行委員陳小平表示，最根本的差異是技術本身。過去的自動化技術只能替代人的一部分勞動，但現在人工智能，哪怕只是專用的人工智能，在專用領域遠遠超過了人、取代了人。有哲學家預測，除了做人工智能的人和做決策的人以外，其他97%的行業從業者工作都將被替代，這個根本原因還是在于技術。

談及與其他行業倫理的差異，陳小平提出三點看法。

第一是可控性問題。如果未來實現了通用人工智能、強人工智能，或許所有的行業領域都可以被人工智能替代。陳小平表示，雖然目前看可能性不大，但理論上不能排除。一旦人工智能擁有通用能力，或許可以實現不依賴于人類的生存，對此必須高度重視。

第二是人工智能對創新模式的挑戰問題。此前人類的技術不足以強大到對創新模式提出挑戰，而目前即使是專用人工智能，也深刻改變了創新模式。

第三是進入新技術時代，人工智能與社會治理融合的問題。隨著人工智能技術應用越發廣泛，人類社會進入了一個本質上全新的時代，傳統的社會治理模式不再完全有效，必須發展新的社會治理模式。