張天任代表

“人工智能在帶來巨大機遇和利益的同時，也可能引發一系列社會經濟、道德倫理等問題，啟動立法研究、制定專門的綜合性法律勢在必行。”全國人大代表、天能控股集團董事長張天任向十四屆全國人大三次會議提交議案，建議制定“人工智能管理法”，在鼓勵突破關鍵技術，引導社會資源向人工智能前沿領域傾斜，提升我國技術自主可控能力的同時，注意防范和應對可能出現的負面效應。

AI技術正呈現爆發式增長態勢，應用場景不斷拓展，也出現錯綜復雜的問題。張天任表示，如部分企業利用AI技術虛假宣傳、夸大宣傳；AI系統高度依賴海量數據，在數據收集、存儲、使用過程中，隱私泄露的風險很高。算法歧視則可能損害社會公平，在招聘、貸款審批、司法量刑等決策環節，基于有偏差數據訓練的算法可能對特定群體造成不公平。此外，當人工智能系統引發事故、造成損害時，責任界定的模糊性可能使受害者難以尋求有效救濟。

“我國已出臺一些法律法規和政策文件，如《生成式人工智能服務管理暫行辦法》等，但較為零散，無法涵蓋AI領域各類問題和應用場景。”他建議，“人工智能管理法”以提高新質生產力、建設數字中國為目標，統籌規范與促進、保護與創新、發展與安全、當下與長遠、國際合作與競爭，內容包括總則、研發管理、產品與服務管理、應用管理、責任劃分與保險制度、保障和監督、國際合作與資源共享、法律責任等。

關于立法重點，他認為要建立科技倫理規范體系，為研發設計人員制定道德規范和行為守則，構建人機協作的倫理框架，推動人工智能朝通用、可信、負責任的方向發展。

其次，建立公開透明的監管體系。設立專門的監管機構，或明確現有監管機構的職責，加強對人工智能行業的監督檢查。提升模型技術、數據源的透明度，讓用戶能深入了解模型的運行機制，提升信任度。制訂、落實人工智能備案制度，強化審查，定期評估，一旦利益相關者的合法權益因人工智能決策遭受損害，完善的可解釋性機制能迅速介入，及時解答用戶疑問并提供相應的法律救濟渠道。

鑒于人工智能技術的全球化發展趨勢，張天任表示，應將在我國境內運營，或對我國用戶產生影響的外國主體納入備案管理范疇，確保其遵守我國關于人工智能發展的法律法規和監管要求。

第三，明確責任主體與責任承擔程度。在責任判定中，應綜合考慮行為人、人工智能服務提供商在侵權行為及損害后果中的實際作用，參考相關條款，明確人工智能提供者的高度注意義務，賦予相應的責任義務。根據不同違法行為或損害后果，制定相應的責任承擔方式和程度。

此外，建立健全數據保護與安全機制。規范人工智能收集數據的使用范圍，僅限授權范圍內用于特定的研發、優化和應用場景。建立數據共享審批機制，明確條件和流程，確保接收方具備相應的數據保護能力，并簽訂數據保護協議。對跨境數據傳輸進行更嚴格的審查監管，保障國家數據主權和公民隱私安全。建立審計制度，對數據的收集、使用、共享等全過程進行審計記錄，出現問題可以追溯，確保安全管理的可問責性。