6月25日，全國人大常委會法制工作委員會舉行記者會，針對有關(guān)利用“AI換臉”技術(shù)進行視頻合成、進而實施詐騙的問題，發(fā)言人臧鐵偉指出：“萬變不離其宗”，通過“AI換臉”進行視頻合成、實施詐騙的行為，是利用新技術(shù)進行的詐騙，與傳統(tǒng)的詐騙行為在本質(zhì)上沒有區(qū)別。“從法律方面看，反電信網(wǎng)絡(luò)詐騙法、刑法等法律為打擊治理各類電信網(wǎng)絡(luò)詐騙活動提供了充分支撐”。

此前，有犯罪分子使用AI換臉技術(shù)進行電信詐騙，僅僅10分鐘的通話就騙走了受害人430萬元。一時間“AI換臉”詐騙引發(fā)了公眾的焦慮，要知道，人類一直把臉作為最重要的生物識別指標(biāo)，通過“看臉”來區(qū)別你、我、他，如今基于深度合成技術(shù)的換臉、變聲、人工智能對話的應(yīng)用已經(jīng)如此發(fā)達(dá)，到了足以以假亂真的程度。

AI換臉技術(shù)很容易淪為冒名詐騙、敲詐勒索、毀人清白的違法犯罪工具。AI換臉兇猛，法律準(zhǔn)備好了嗎？行政治理準(zhǔn)備好了嗎？普通人準(zhǔn)備好了嗎？

正如臧鐵偉所說，作為詐騙手段的換臉技術(shù)，沒有逃出既有法律的打擊范圍。但還要充分認(rèn)識到深度合成技術(shù)作為詐騙等犯罪手段的特殊性，它打破了“人臉即是真實”的社會共識和常識，帶來了視覺失真、新聞失真、社會關(guān)系失真等一系列的嚴(yán)肅問題。

首先，AI換臉等技術(shù)構(gòu)成了對公民肖像權(quán)、名譽權(quán)、隱私權(quán)等權(quán)利的普遍性威脅，而且違法成本畸低，只要套用一個成熟的程序，就可能生成海量侵權(quán)內(nèi)容，甚至導(dǎo)致當(dāng)事人“跳到黃河里都洗不清”的尷尬。之前已經(jīng)有不法之徒推出了“一鍵脫衣”的AI技術(shù)，利用技術(shù)手段肆意侵權(quán)、侮辱女性。這方面需要職能部門及時立起高壓線，引導(dǎo)行業(yè)正向競爭。

其二，這類技術(shù)還會引發(fā)嚴(yán)重的信任危機，不僅有人利用它實施詐騙，還會有更多的民事行為的有效性因此產(chǎn)生爭議，怎么證明和自己簽合同的就是真實的那個人？這方面民事規(guī)則必須及時跟進。

一刀切地禁止，或者無視深度合成技術(shù)的發(fā)展，都是錯誤的。去年年底，國家互聯(lián)網(wǎng)信息辦公室正式公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，其中不僅原則性地規(guī)定了深度合成技術(shù)必須遵守法律，不能侵害公民權(quán)利，而且還明確了“AI標(biāo)記規(guī)則”：提供“換臉”等深度合成服務(wù)提供者，如果相關(guān)服務(wù)“可能導(dǎo)致公眾混淆或者誤認(rèn)的”，就必須提供“顯著標(biāo)識功能”。

也就是說，對AI換臉等服務(wù)提供強制標(biāo)記，避免產(chǎn)生誤解，這已經(jīng)是行政規(guī)定，但是需要盡快將相關(guān)的治理規(guī)則上升為國家法律。此外，針對利用深度合成技術(shù)搞的“灰色產(chǎn)業(yè)”，如AI色情聊天、換臉破解面目識別技術(shù)等，要做到盡早發(fā)現(xiàn)、盡早治理，把規(guī)矩立起來。

每一種科技突破都難免產(chǎn)生負(fù)面效應(yīng)，關(guān)鍵是引導(dǎo)科技向上向善，別讓它跌落到人性負(fù)面的深淵里。AI換臉技術(shù)不是潘朵拉的魔盒，但是法律和治理必須跟上科技的發(fā)展。