6月25日，全國人大常委會法制工作委員會舉行記者會，針對有關利用“AI換臉”技術進行視頻合成、進而實施詐騙的問題，發言人臧鐵偉指出：“萬變不離其宗”，通過“AI換臉”進行視頻合成、實施詐騙的行為，是利用新技術進行的詐騙，與傳統的詐騙行為在本質上沒有區別。“從法律方面看，反電信網絡詐騙法、刑法等法律為打擊治理各類電信網絡詐騙活動提供了充分支撐”。

此前，有犯罪分子使用AI換臉技術進行電信詐騙，僅僅10分鐘的通話就騙走了受害人430萬元。一時間“AI換臉”詐騙引發了公眾的焦慮，要知道，人類一直把臉作為最重要的生物識別指標，通過“看臉”來區別你、我、他，如今基于深度合成技術的換臉、變聲、人工智能對話的應用已經如此發達，到了足以以假亂真的程度。

AI換臉技術很容易淪為冒名詐騙、敲詐勒索、毀人清白的違法犯罪工具。AI換臉兇猛，法律準備好了嗎？行政治理準備好了嗎？普通人準備好了嗎？

正如臧鐵偉所說，作為詐騙手段的換臉技術，沒有逃出既有法律的打擊范圍。但還要充分認識到深度合成技術作為詐騙等犯罪手段的特殊性，它打破了“人臉即是真實”的社會共識和常識，帶來了視覺失真、新聞失真、社會關系失真等一系列的嚴肅問題。

首先，AI換臉等技術構成了對公民肖像權、名譽權、隱私權等權利的普遍性威脅，而且違法成本畸低，只要套用一個成熟的程序，就可能生成海量侵權內容，甚至導致當事人“跳到黃河里都洗不清”的尷尬。之前已經有不法之徒推出了“一鍵脫衣”的AI技術，利用技術手段肆意侵權、侮辱女性。這方面需要職能部門及時立起高壓線，引導行業正向競爭。

其二，這類技術還會引發嚴重的信任危機，不僅有人利用它實施詐騙，還會有更多的民事行為的有效性因此產生爭議，怎么證明和自己簽合同的就是真實的那個人？這方面民事規則必須及時跟進。

一刀切地禁止，或者無視深度合成技術的發展，都是錯誤的。去年年底，國家互聯網信息辦公室正式公布《互聯網信息服務深度合成管理規定》，其中不僅原則性地規定了深度合成技術必須遵守法律，不能侵害公民權利，而且還明確了“AI標記規則”：提供“換臉”等深度合成服務提供者，如果相關服務“可能導致公眾混淆或者誤認的”，就必須提供“顯著標識功能”。

也就是說，對AI換臉等服務提供強制標記，避免產生誤解，這已經是行政規定，但是需要盡快將相關的治理規則上升為國家法律。此外，針對利用深度合成技術搞的“灰色產業”，如AI色情聊天、換臉破解面目識別技術等，要做到盡早發現、盡早治理，把規矩立起來。

每一種科技突破都難免產生負面效應，關鍵是引導科技向上向善，別讓它跌落到人性負面的深淵里。AI換臉技術不是潘朵拉的魔盒，但是法律和治理必須跟上科技的發展。