全國(guó)人大代表、小米科技董事長(zhǎng)兼CEO雷軍3月4日公開了今年兩會(huì)的5條建議，其中“加強(qiáng)‘AI換臉擬聲’違法侵權(quán)重災(zāi)區(qū)治理”尤為引人關(guān)注，因?yàn)樗救司褪茿I換臉擬聲的“深度受害者”。

去年國(guó)慶長(zhǎng)假期間，短視頻平臺(tái)上曾經(jīng)出現(xiàn)大量“雷軍AI配音”的惡搞視頻，涉及堵車、調(diào)休、游戲等熱門話題，不僅言辭犀利，還常爆粗口，引得網(wǎng)友紛紛涌到雷軍微博下發(fā)問“最近你怎么在罵人”。對(duì)此，雷軍還專門發(fā)視頻，呼吁大家不要再惡搞。

雷軍個(gè)人賬號(hào)截圖

中招的不只是雷軍，現(xiàn)在很多互聯(lián)網(wǎng)平臺(tái)，都有大量用AI移花接木、惡搞名人的音視頻。還有AI魔改經(jīng)典老劇，用AI生成的“假名人”來帶貨，也是利用了換臉擬聲技術(shù)。

人工智能深度合成技術(shù)的快速發(fā)展，推動(dòng)了“AI換臉擬聲”在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會(huì)喜聞樂見、傳播力強(qiáng)的技術(shù)應(yīng)用。但正如雷軍所指出的，“AI換臉擬聲”不當(dāng)濫用也成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為，帶來社會(huì)治理風(fēng)險(xiǎn)。

此次雷軍作為“受害者本尊”，以全國(guó)人大代表的身份將這個(gè)嚴(yán)肅話題帶到全國(guó)兩會(huì)上，提出治理建議，可謂恰如其分，很有說服力。

有網(wǎng)友可能會(huì)問，不就是惡搞一下名人，值得這么緊張嗎？事實(shí)上，這絕不是件可以一笑而過的事。如果說從前礙于技術(shù)的問題，“AI換臉擬聲”還有比較明顯的破綻，而現(xiàn)在通過合成技術(shù)生成的AI數(shù)字人，形態(tài)自然、語言流暢，在特定環(huán)境下已經(jīng)和真人無異，讓人難以分辨。

而且，網(wǎng)絡(luò)上已經(jīng)出現(xiàn)了不少違法亂象：比如冒充名人與中老年人接觸，誘使他人轉(zhuǎn)賬；自稱是單位領(lǐng)導(dǎo)，要求他人匯款；甚至還有人通過AI技術(shù)編造險(xiǎn)情、災(zāi)情等，以此博取流量。如果放任“AI換臉擬聲”不當(dāng)濫用，很有可能帶來社會(huì)治理的風(fēng)險(xiǎn)，下一個(gè)受害者也許就會(huì)是我們的親人、朋友。

我國(guó)目前對(duì)于AI合成技術(shù)已經(jīng)作出了一些規(guī)定，例如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)暫行管理辦法》等，明確要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任，使用者不得濫用深度合成服務(wù)。

但治理AI換臉擬聲也存在一些法律和技術(shù)上的難題。比如真要追責(zé)，取證困難，需證明視頻真實(shí)性、來源及目的；主觀性認(rèn)定困難，需證明行為人明知違法，且證據(jù)標(biāo)準(zhǔn)高。就拿雷軍來說，很多惡搞他的AI視頻已經(jīng)明顯越過了開玩笑、玩梗的界限，損害了其個(gè)人形象，但真要一個(gè)一個(gè)去“較真”，其實(shí)并不容易。

就現(xiàn)階段而言，一方面，平臺(tái)理應(yīng)強(qiáng)化主體責(zé)任，對(duì)用戶發(fā)布的內(nèi)容進(jìn)行審核，及時(shí)處理違法信息；另一方面，也應(yīng)該在法律層面盡快制定AI行業(yè)行為準(zhǔn)則和道德規(guī)范，推動(dòng)行業(yè)自律和技術(shù)應(yīng)用的倫理合規(guī)性。

“AI換臉擬聲”被濫用，其實(shí)只是人工智能技術(shù)帶來的治理挑戰(zhàn)之一。在3月4日人大首場(chǎng)發(fā)布會(huì)上，發(fā)言人婁勤儉也坦言：人工智能技術(shù)的發(fā)展也伴隨一系列難以預(yù)知的風(fēng)險(xiǎn)挑戰(zhàn)，在安全、社會(huì)治理、道德倫理等方面帶來眾多新課題，“中國(guó)政府高度重視人工智能技術(shù)的發(fā)展和風(fēng)險(xiǎn)防范”。

因此，對(duì)于AI我們既要保持開放包容的心態(tài)，將其用好、發(fā)展好；對(duì)于新技術(shù)、新應(yīng)用帶來的種種問題，也要堅(jiān)持在發(fā)展中治理，明確使用AI技術(shù)的底線和紅線，真正讓科技向上向善、為人類服務(wù)。