·鑒偽技術(shù)開發(fā)需要跨學(xué)科合作，當(dāng)前的鑒偽技術(shù)以軟件算法為主，未來將走向軟硬一體。

大模型興起為深度偽造帶來土壤，業(yè)界呼吁跨學(xué)科聯(lián)合攻堅鑒偽技術(shù)。

在大模型時代，人工智能合成語音與真實語音之間的界限變得越發(fā)模糊，提升與之匹配的識別技術(shù)迫在眉睫。7月23日，主題為語音深度鑒偽識別的第九屆信也科技杯全球人工智能算法大賽總決賽在上海舉行，大賽鼓勵參賽者運用深度學(xué)習(xí)和人工智能對抗技術(shù)，開發(fā)出能夠準(zhǔn)確識別虛假語音的模型。

深度偽造是一種利用深度學(xué)習(xí)和人工智能技術(shù)生成高度逼真的虛假內(nèi)容的方法。大模型的興起為深度偽造帶來了土壤，只需輸入提示詞，AI系統(tǒng)就會輸出圖片、視頻、音頻，真假難辨。

以虛假語音為例，大模型能夠生成多種虛假語音，這些虛假語音更真實、擬人，對話流暢，為虛假語音識別帶來更大的挑戰(zhàn)。“在一些高價值場景里，往往會發(fā)生AI生成語音欺詐。但是，目前語音鑒偽技術(shù)的發(fā)展卻滯后于語音合成技術(shù)。”信也科技副總裁、大數(shù)據(jù)及AI負(fù)責(zé)人陳磊表示。

在決賽中，選手運用不同算法模型和訓(xùn)練思路識別虛假語音，包括運用基于大模型的識別技術(shù)、基于傳統(tǒng)端到端的識別技術(shù)等。端到端的識別技術(shù)參數(shù)量較小，聚焦更垂直的問題；大模型的參數(shù)量較大，對數(shù)據(jù)要求較高，泛化能力強(qiáng)，對由大模型生成的假語音數(shù)據(jù)的識別率有明顯提升。

信也科技算法科學(xué)家呂強(qiáng)介紹，初賽的語音數(shù)據(jù)集主要由傳統(tǒng)端到端TTS（文字轉(zhuǎn)語音）生成的假語音組成，識別難度較低，復(fù)賽數(shù)據(jù)集首次加入了基于最新大模型生成的假語音、翻錄假語音以及由真假語言拼接而成的樣本，覆蓋英語、法語、西班牙語等五種以上語言，比賽難度增加。“復(fù)賽加入由大模型生成的假語音后比賽難度變大，也能說明最新大模型‘以假亂真’的能力變強(qiáng)了，這要求相應(yīng)的深度偽造識別技術(shù)必須跟上腳步。”

“我們特意在比賽中加入了一些新場景數(shù)據(jù)，比如翻錄假語音，也就是對生成的真語音經(jīng)過多次錄音再生成的數(shù)據(jù)，我們認(rèn)為這是假語音。”呂強(qiáng)表示，針對這一場景，大賽利用真假語音切片、混合，構(gòu)建對抗性數(shù)據(jù)，避免人工聽語音、打標(biāo)簽干擾比賽，“只要有一個切片是假語音，那么整條都是假語音，這更接近真實場景，但識別挑戰(zhàn)大。如果能解決翻錄問題和真假對抗，將具有學(xué)術(shù)價值。”呂強(qiáng)也表示，文本、視頻等多模態(tài)信息有助于語音鑒偽，大模型和多模態(tài)將是語音鑒偽的重要發(fā)展方向。

偽造技術(shù)與鑒偽技術(shù)“競賽”，兩者的發(fā)展呈螺旋式上升。陳磊表示，語音大模型的研究要把應(yīng)用問題抽象提煉成學(xué)術(shù)問題，在解決學(xué)術(shù)問題后經(jīng)過工程化，解決具體業(yè)務(wù)場景的真實需求。鑒偽技術(shù)開發(fā)需要跨學(xué)科合作，當(dāng)前的鑒偽技術(shù)以軟件算法為主，未來將走向軟硬一體，借助硬件溯源聲音采集，從硬件層面起到假語音風(fēng)險防控作用。

“鑒偽沒有終點，只要生成式道路還沒有走到頭，鑒偽就會一直往下走。”陳磊表示，賽后信也科技將開源數(shù)據(jù)，用于更廣泛的學(xué)術(shù)研究，將選手的材料脫敏后共享學(xué)習(xí)。同時在業(yè)務(wù)場景中吸收前沿模型思想，構(gòu)建AIGC鑒偽平臺。他認(rèn)為生成式AI要符合治理規(guī)則，人工智能治理需要監(jiān)管層的頂層設(shè)計進(jìn)行規(guī)范和引導(dǎo)，同時呼吁生態(tài)共建，以產(chǎn)業(yè)界共創(chuàng)防范系統(tǒng)性風(fēng)險。