2023年全國兩會前夕，澎湃新聞記者從民進中央網站獲悉，民進中央擬向全國政協十四屆一次會議提交《關于加強我國人工智能領域倫理治理的提案》。

民進中央在提案中指出，中共二十大報告提出，在人工智能等領域構建新的增長引擎。隨著人工智能技術的快速發展，面臨的科技倫理挑戰日益凸顯，近期火爆全網的ChatGPT再次引發國際社會對人工智能領域倫理問題的擔憂。2022年3月中辦、國辦印發《關于加強科技倫理治理的意見》，將人工智能作為需要加強科技倫理治理的重點領域之一。當前，我國人工智能領域倫理治理仍面臨不少問題。

一是體系建設相對滯后。在制度方面，可落地實施的法律法規比較欠缺，合規底線和懲戒力度不夠明確。在管理方面，缺乏統籌的問題比較突出，職責分工不夠明確，倫理治理審查與監管仍存在空白。

二是能力建設比較薄弱。當前，我國人工智能領域倫理治理還處于起步階段，存在人員構成不合理、倫理意識不強、專業能力不足、工作規則和操作規范不完善等問題，能力建設有待進一步增強。

三是企業參與治理不足。我國在推動人工智能企業自主參與倫理治理方面尚處于初步探索階段，對于企業參與的邊界、機制等缺乏明確的規定和操作性的制度保障，并且面臨企業參與治理的意愿不強、經驗和能力不足等問題。

為此，民進中央在提案中建議：

一是構建多方參與的治理體系。由工信部牽頭，從領導機構、組織架構、領域分工、社會協同等方面設計人工智能領域倫理治理頂層架構，明確人工智能應用鏈條中各方需要履行的義務和責任。推進法律法規建設，明晰法律合規底線，對數據濫用、侵犯個人隱私等行為明確懲戒力度。同時，通過國標、行標、企業自律規則等“軟法”方式，引導企業合規創新。吸納人工智能企業專家擔任國家科技倫理委員會人工智能分委員會委員，更好地研究和解決企業在技術創新中面臨的倫理問題。發揮國家新一代人工智能治理專業委員會的科技倫理咨詢作用，圍繞技術發展中可能出現的倫理風險進行前瞻預研、預判。發揮國家科技智庫和相關研究力量的作用，對人工智能倫理問題進行系統研究儲備，提供決策咨詢支撐。

二是開展多維度、多層次的倫理建設。開展全生命周期的價值敏感設計，在研究開發階段，對新技術可能產生的倫理問題進行分析，從源頭控制潛在的倫理風險；在設計制造階段，對新產品在道德上被社會接受的成本和帶來的收益進行權衡；在實驗推廣階段，根據社會的價值選擇對新產品進行調整，提高新產品與社會價值的相容性；在部署應用階段，分析用戶對于新產品的認可和接受程度，對應用過程中引發的倫理風險進行審視和反思。開展多應用場景的倫理規制，人工智能在不同應用場景產生的倫理問題和需要治理的工作重點不同，其倫理規制需要分別研究。如自動駕駛、醫療診斷等日常應用需要企業、社會公眾等基于應用場景特點及實際倫理問題開展倫理規制；人工智能技術運用于軍事對抗等帶來的倫理風險，需要通過國際協議來約束。開展交叉領域的倫理規制，人工智能與其他學科領域交叉應用后形成新的領域，如人工智能與神經技術交叉形成類腦器官，需要結合各交叉領域特點開展差異化的倫理規制研究。

三是鼓勵企業自主參與治理。明確企業開展倫理治理的驅動力，主要包括：成為守倫理規則的企業，樹立在業界的企業形象；企業的產品不僅應有技術競爭力，而且在倫理道德上能夠讓消費者和業界信任；在全球范圍內推出負責任的新技術，引領人工智能發展的方向等。開展企業倫理意識培養，對于企業高管，加強人工智能倫理的培訓學習，提高倫理認知與判斷；對于技術研發人員，倡導其開展負責任的技術研發，樹立“可信負責”的倫理觀。借鑒微軟等國際人工智能企業設立倫理委員會的經驗，支持企業內部設立倫理委員會，審查人工智能可能帶來的失控性、侵權性、歧視性、責任性等風險，并為其獨立開展工作提供必要的條件保障。