去年12月，某公司財(cái)務(wù)小王接到領(lǐng)導(dǎo)電話(huà)，要求立刻給供應(yīng)商轉(zhuǎn)款2萬(wàn)元。電話(huà)里傳來(lái)的確實(shí)是老板的口音，因此小王立刻照辦。沒(méi)想到，這是一場(chǎng)徹頭徹尾的騙局。

這是公安部網(wǎng)安局公布的一起真實(shí)案例。騙子使用的是合成聲音技術(shù)，能讓偽造的聲音以假亂真。比合成聲音更高級(jí)的是“深度偽造”（deep fake），這是一種將個(gè)人的聲音、面部表情及身體動(dòng)作拼接合成虛假內(nèi)容的人工智能技術(shù)，最常見(jiàn)方式就是AI換臉。隨著人工智能技術(shù)的發(fā)展，變聲、換臉在互聯(lián)網(wǎng)產(chǎn)品中的應(yīng)用越來(lái)越普及。

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門(mén)、公安機(jī)關(guān)約談小米、快手等11家企業(yè)，加強(qiáng)對(duì)語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估工作。

針對(duì)技術(shù)發(fā)展的新動(dòng)向，及時(shí)出手、迅速反應(yīng)，充分顯示出有關(guān)部門(mén)的前瞻意識(shí)和憂(yōu)患意識(shí)。如何消除“深度偽造”技術(shù)帶來(lái)的安全隱患，完善風(fēng)險(xiǎn)防控機(jī)制和措施，正是全社會(huì)共同關(guān)心的問(wèn)題。

這絕非危言聳聽(tīng)。以往，影視作品中的換臉操作起來(lái)非常復(fù)雜。早在1994年上映的經(jīng)典電影《阿甘正傳》里，我們就能見(jiàn)識(shí)到早期的換臉術(shù)。但如今，隨著“深度偽造”這樣公開(kāi)且輕量化技術(shù)的出現(xiàn)，換臉的門(mén)檻也越來(lái)越低了。哪怕是普通人，也能在短時(shí)間學(xué)習(xí)之后熟練掌握這項(xiàng)技術(shù)。

不僅是日常生活，面容和聲音造假還有可能對(duì)社會(huì)乃至整個(gè)世界的正常運(yùn)行帶來(lái)巨大威脅，美國(guó)喜劇演員皮爾曾經(jīng)利用合成技術(shù)偽裝成前總統(tǒng)奧巴馬并發(fā)表“視頻演講”。眼見(jiàn)未必為實(shí)、耳聽(tīng)未必為真，這種能讓任何人扮演任何人的高科技偽造技術(shù)，必然會(huì)顛覆人們的認(rèn)知，給社會(huì)帶來(lái)恐慌。

作為個(gè)人，我們必須要在平時(shí)的生活中提高防范意識(shí)。公安部網(wǎng)安局提醒，“看眼睛”是識(shí)別假臉的方法之一，因?yàn)榧倌槝O少甚至不會(huì)眨眼。

但已有專(zhuān)家提醒，隨著“深度偽造”技術(shù)的發(fā)展，肉眼無(wú)法識(shí)別的假臉已經(jīng)離我們?cè)絹?lái)越近。因此，還得從源頭抓起，積極主動(dòng)進(jìn)行監(jiān)管，比如要求互聯(lián)網(wǎng)視頻發(fā)布實(shí)名制、加強(qiáng)相關(guān)立法等。

此次有關(guān)部門(mén)約談企業(yè)，就是要敦促其切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任，共同維護(hù)網(wǎng)絡(luò)傳播秩序，營(yíng)造良好網(wǎng)絡(luò)生態(tài)。

人類(lèi)已經(jīng)進(jìn)入人工智能時(shí)代。虛擬技術(shù)可以讓教學(xué)更有趣味性，虛擬主播播報(bào)新聞更有親和力，“深度偽造”可以讓影視創(chuàng)作突破時(shí)空限制……社會(huì)應(yīng)該積極鼓勵(lì)人工智能技術(shù)在醫(yī)療、教育、藝術(shù)、社交等領(lǐng)域的應(yīng)用和發(fā)展，但也必須對(duì)變聲、換臉等形式的技術(shù)濫用保持警惕。

說(shuō)到底，科技是一把雙刃劍，本身無(wú)關(guān)善惡，能不能用好新技術(shù)新應(yīng)用，關(guān)鍵還在于使用的人。