全國人大代表、小米科技董事長兼CEO雷軍3月4日公開了今年兩會的5條建議，其中“加強‘AI換臉擬聲’違法侵權重災區治理”尤為引人關注，因為他本人就是AI換臉擬聲的“深度受害者”。

去年國慶長假期間，短視頻平臺上曾經出現大量“雷軍AI配音”的惡搞視頻，涉及堵車、調休、游戲等熱門話題，不僅言辭犀利，還常爆粗口，引得網友紛紛涌到雷軍微博下發問“最近你怎么在罵人”。對此，雷軍還專門發視頻，呼吁大家不要再惡搞。

雷軍個人賬號截圖

中招的不只是雷軍，現在很多互聯網平臺，都有大量用AI移花接木、惡搞名人的音視頻。還有AI魔改經典老劇，用AI生成的“假名人”來帶貨，也是利用了換臉擬聲技術。

人工智能深度合成技術的快速發展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強的技術應用。但正如雷軍所指出的，“AI換臉擬聲”不當濫用也成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為，帶來社會治理風險。

此次雷軍作為“受害者本尊”，以全國人大代表的身份將這個嚴肅話題帶到全國兩會上，提出治理建議，可謂恰如其分，很有說服力。

有網友可能會問，不就是惡搞一下名人，值得這么緊張嗎？事實上，這絕不是件可以一笑而過的事。如果說從前礙于技術的問題，“AI換臉擬聲”還有比較明顯的破綻，而現在通過合成技術生成的AI數字人，形態自然、語言流暢，在特定環境下已經和真人無異，讓人難以分辨。

而且，網絡上已經出現了不少違法亂象：比如冒充名人與中老年人接觸，誘使他人轉賬；自稱是單位領導，要求他人匯款；甚至還有人通過AI技術編造險情、災情等，以此博取流量。如果放任“AI換臉擬聲”不當濫用，很有可能帶來社會治理的風險，下一個受害者也許就會是我們的親人、朋友。

我國目前對于AI合成技術已經作出了一些規定，例如《互聯網信息服務深度合成管理規定》《生成式人工智能服務暫行管理辦法》等，明確要求深度合成服務提供者落實信息安全主體責任，使用者不得濫用深度合成服務。

但治理AI換臉擬聲也存在一些法律和技術上的難題。比如真要追責，取證困難，需證明視頻真實性、來源及目的；主觀性認定困難，需證明行為人明知違法，且證據標準高。就拿雷軍來說，很多惡搞他的AI視頻已經明顯越過了開玩笑、玩梗的界限，損害了其個人形象，但真要一個一個去“較真”，其實并不容易。

就現階段而言，一方面，平臺理應強化主體責任，對用戶發布的內容進行審核，及時處理違法信息；另一方面，也應該在法律層面盡快制定AI行業行為準則和道德規范，推動行業自律和技術應用的倫理合規性。

“AI換臉擬聲”被濫用，其實只是人工智能技術帶來的治理挑戰之一。在3月4日人大首場發布會上，發言人婁勤儉也坦言：人工智能技術的發展也伴隨一系列難以預知的風險挑戰，在安全、社會治理、道德倫理等方面帶來眾多新課題，“中國政府高度重視人工智能技術的發展和風險防范”。

因此，對于AI我們既要保持開放包容的心態，將其用好、發展好；對于新技術、新應用帶來的種種問題，也要堅持在發展中治理，明確使用AI技術的底線和紅線，真正讓科技向上向善、為人類服務。