去年12月，某公司財務小王接到領(lǐng)導電話，要求立刻給供應商轉(zhuǎn)款2萬元。電話里傳來的確實是老板的口音，因此小王立刻照辦。沒想到，這是一場徹頭徹尾的騙局。

這是公安部網(wǎng)安局公布的一起真實案例。騙子使用的是合成聲音技術(shù)，能讓偽造的聲音以假亂真。比合成聲音更高級的是“深度偽造”（deep fake），這是一種將個人的聲音、面部表情及身體動作拼接合成虛假內(nèi)容的人工智能技術(shù)，最常見方式就是AI換臉。隨著人工智能技術(shù)的發(fā)展，變聲、換臉在互聯(lián)網(wǎng)產(chǎn)品中的應用越來越普及。

近日，國家互聯(lián)網(wǎng)信息辦公室、公安部指導各地網(wǎng)信部門、公安機關(guān)約談小米、快手等11家企業(yè)，加強對語音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應用安全評估工作。

針對技術(shù)發(fā)展的新動向，及時出手、迅速反應，充分顯示出有關(guān)部門的前瞻意識和憂患意識。如何消除“深度偽造”技術(shù)帶來的安全隱患，完善風險防控機制和措施，正是全社會共同關(guān)心的問題。

這絕非危言聳聽。以往，影視作品中的換臉操作起來非常復雜。早在1994年上映的經(jīng)典電影《阿甘正傳》里，我們就能見識到早期的換臉術(shù)。但如今，隨著“深度偽造”這樣公開且輕量化技術(shù)的出現(xiàn)，換臉的門檻也越來越低了。哪怕是普通人，也能在短時間學習之后熟練掌握這項技術(shù)。

不僅是日常生活，面容和聲音造假還有可能對社會乃至整個世界的正常運行帶來巨大威脅，美國喜劇演員皮爾曾經(jīng)利用合成技術(shù)偽裝成前總統(tǒng)奧巴馬并發(fā)表“視頻演講”。眼見未必為實、耳聽未必為真，這種能讓任何人扮演任何人的高科技偽造技術(shù)，必然會顛覆人們的認知，給社會帶來恐慌。

作為個人，我們必須要在平時的生活中提高防范意識。公安部網(wǎng)安局提醒，“看眼睛”是識別假臉的方法之一，因為假臉極少甚至不會眨眼。

但已有專家提醒，隨著“深度偽造”技術(shù)的發(fā)展，肉眼無法識別的假臉已經(jīng)離我們越來越近。因此，還得從源頭抓起，積極主動進行監(jiān)管，比如要求互聯(lián)網(wǎng)視頻發(fā)布實名制、加強相關(guān)立法等。

此次有關(guān)部門約談企業(yè)，就是要敦促其切實履行企業(yè)信息內(nèi)容安全主體責任，共同維護網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。

人類已經(jīng)進入人工智能時代。虛擬技術(shù)可以讓教學更有趣味性，虛擬主播播報新聞更有親和力，“深度偽造”可以讓影視創(chuàng)作突破時空限制……社會應該積極鼓勵人工智能技術(shù)在醫(yī)療、教育、藝術(shù)、社交等領(lǐng)域的應用和發(fā)展，但也必須對變聲、換臉等形式的技術(shù)濫用保持警惕。

說到底，科技是一把雙刃劍，本身無關(guān)善惡，能不能用好新技術(shù)新應用，關(guān)鍵還在于使用的人。