視頻中，“印尼總統(tǒng)普拉博沃”說：“誰還沒收到我的援助？你現(xiàn)在需要什么？”

不疑有詐的印尼人按照要求，聯(lián)系一個即時通信社交平臺WhatsApp號碼，然后轉賬25萬至100萬印尼盾（約合人民幣109.75元至438.99元）的“行政費”，卻沒有收到援助，這才發(fā)現(xiàn)上當受騙。

據(jù)印尼媒體報道，因推動免費營養(yǎng)餐等福利政策被選民熟知并最終成功當選的印尼總統(tǒng)普拉博沃，他的頭像頻遭犯罪者盜用制作“深偽”視頻。自去年10月普拉博沃宣誓就職以來，至少有22個TikTok賬戶以類似的“假裝普拉博沃”手法欺騙民眾；其中一個賬戶有7.7萬名追隨者，1月以來上傳了100個視頻，大部分是普拉博沃要派錢的“深偽”視頻。TikTok說，已刪除其中一個“深偽”視頻及其相關賬戶，并承諾會繼續(xù)刪除任何違反平臺準則的視頻。

新華社此前報道，生成式AI和大模型技術的應用，讓世界進入了數(shù)字信息“眼見不一定為實，耳聽不一定為真”的時代。聲音、視頻、圖像等多模態(tài)AI“深度偽造”內(nèi)容的出現(xiàn)，營造出越來越多的虛假信息迷霧。

印尼總統(tǒng)普拉博沃  視覺中國 資料圖

據(jù)《雅加達環(huán)球報》報道，圍繞著普拉博沃提出的免費營養(yǎng)餐項目，東爪哇諫義里市曾出現(xiàn)餐飲企業(yè)招標詐騙事件。印尼警方今年2月還逮捕了兩名利用“深偽”視頻詐騙的嫌犯，其中一人成功騙走6500萬印尼盾。

但調(diào)查發(fā)現(xiàn)，這類深偽視頻的傳播范圍遠遠超過警方公布的兩起案件。

印尼事實查核機構Mafindo的聯(lián)合創(chuàng)始人阿里博沃說，深偽欺詐在網(wǎng)上廣泛傳播，他的團隊每周都會發(fā)現(xiàn)新的視頻。“我們注意到這些視頻的品質隨著時間流逝變得越來越強。現(xiàn)在要區(qū)分‘深偽’視頻和真視頻已變得更加困難了。我們面對的挑戰(zhàn)在于這些視頻實在太多了。”他說。

在印尼之外，還有許多國家面臨“深偽”引起的犯罪或管理問題。據(jù)《環(huán)球時報》報道，去年11月，為打擊日益猖獗的“深度偽造”性犯罪事件，韓國政府推出該國首個政府應對方案，并計劃推動修訂相關立法。

去年10月15日，新加坡國會三讀通過《選舉（維護網(wǎng)絡廣告誠信）法令》。這項法律禁止在選舉期間使用“深度偽造”和其他數(shù)字技術制作有關候選人的廣告內(nèi)容。