視頻中，“印尼總統普拉博沃”說：“誰還沒收到我的援助？你現在需要什么？”

不疑有詐的印尼人按照要求，聯系一個即時通信社交平臺WhatsApp號碼，然后轉賬25萬至100萬印尼盾（約合人民幣109.75元至438.99元）的“行政費”，卻沒有收到援助，這才發現上當受騙。

據印尼媒體報道，因推動免費營養餐等福利政策被選民熟知并最終成功當選的印尼總統普拉博沃，他的頭像頻遭犯罪者盜用制作“深偽”視頻。自去年10月普拉博沃宣誓就職以來，至少有22個TikTok賬戶以類似的“假裝普拉博沃”手法欺騙民眾；其中一個賬戶有7.7萬名追隨者，1月以來上傳了100個視頻，大部分是普拉博沃要派錢的“深偽”視頻。TikTok說，已刪除其中一個“深偽”視頻及其相關賬戶，并承諾會繼續刪除任何違反平臺準則的視頻。

新華社此前報道，生成式AI和大模型技術的應用，讓世界進入了數字信息“眼見不一定為實，耳聽不一定為真”的時代。聲音、視頻、圖像等多模態AI“深度偽造”內容的出現，營造出越來越多的虛假信息迷霧。

印尼總統普拉博沃  視覺中國 資料圖

據《雅加達環球報》報道，圍繞著普拉博沃提出的免費營養餐項目，東爪哇諫義里市曾出現餐飲企業招標詐騙事件。印尼警方今年2月還逮捕了兩名利用“深偽”視頻詐騙的嫌犯，其中一人成功騙走6500萬印尼盾。

但調查發現，這類深偽視頻的傳播范圍遠遠超過警方公布的兩起案件。

印尼事實查核機構Mafindo的聯合創始人阿里博沃說，深偽欺詐在網上廣泛傳播，他的團隊每周都會發現新的視頻。“我們注意到這些視頻的品質隨著時間流逝變得越來越強。現在要區分‘深偽’視頻和真視頻已變得更加困難了。我們面對的挑戰在于這些視頻實在太多了。”他說。

在印尼之外，還有許多國家面臨“深偽”引起的犯罪或管理問題。據《環球時報》報道，去年11月，為打擊日益猖獗的“深度偽造”性犯罪事件，韓國政府推出該國首個政府應對方案，并計劃推動修訂相關立法。

去年10月15日，新加坡國會三讀通過《選舉（維護網絡廣告誠信）法令》。這項法律禁止在選舉期間使用“深度偽造”和其他數字技術制作有關候選人的廣告內容。