近日，孫儷、鄧超工作室發文打假，揭露網絡上大量利用AI偽造兩人形象和聲音進行虛假廣告宣傳的行為。盡管工作室嚴正聲明，但截至5月20日，仍有不少偽造視頻未被清理，部分賬號甚至利用克隆的明星聲音制作“雞湯”視頻引流變現。

大量名人被換臉帶貨

當“全紅嬋帶貨土蜂蜜”“古天樂被游戲代言”等土味廣告泛濫網絡，你或許會震驚于名人竟也開始代言此類廣告。然而，更令人咋舌的是，這些廣告與名人本尊毫無關聯，而是AI擬聲的商業欺詐。這些偽造視頻模式大同小異，明星“現身說法”推薦減肥、育兒等產品，臺詞僅替換產品名，評論區還貼出購買鏈接。

AI擬聲騙局早已蔓延。去年12月，“張文宏”講解蛋白棒的AI假視頻走紅，中老年消費者紛紛受騙下單。古天樂、林峰等港星肖像、聲音被合成為賭博、游戲代言宣傳片，經紀公司緊急辟謠。就連雷軍的標志性普通話，也被AI用于虛假理財廣告。

從明星到企業家，AI假帶貨受害者名單不斷加長。實現這些，最低僅需一元，就能在二手平臺買到“聲音克隆工具包”。兩年前，“AI孫燕姿”翻唱引發驚嘆，如今，一鍵生成明星帶貨視頻已成現實，假廣告播放量動輒破百萬。

綜藝節目也成重災區。劉曉慶、應采兒等明星在節目中的畫面被P上廣告，成為保健品、減肥藥“代言人”。這些視頻如流水線生產的贗品，低成本引流，規避代言費用。除了上文提及的一些名人，劉德華、謝霆鋒、楊紫等眾多明星也遭遇此類侵權，推薦產品五花八門，且均未標注AI生成。

AI技術讓偽造變得容易

AI合成明星聲音和視頻的技術門檻越來越低，相關軟件隨處可見，甚至有詳細教程。一些中介還傳授如何利用克隆的明星聲音進行商業變現，包括帶貨勵志書籍、做IP收學員等。然而，這些行為均涉嫌違法，不僅侵犯了明星的肖像權和聲音權，還誤導了消費者。

電商平臺“AI配音”服務，明星聲音200元一條，素人50元，包教包會。商家直言，AI擬聲帶貨商品資質不明、廠商不清，涉事店鋪多為新注冊賬號。平臺未提示“該畫面可能由AI生成”，客觀上助長了“假帶貨”風氣。

AI換臉、擬聲技術還被用于詐騙。騙子用AI合成靳東聲音陪老人聊天，騙走近百萬養老錢。福建一公司老板被AI合成的“合作伙伴”騙走430萬。

這些以假亂真的聲音從何而來？學者解釋，采集聲音關鍵特征，配合語速和情感參數，少量樣本就能完成克隆。聲音樣本采集方式多樣，可能是推銷電話、公開演講，甚至是客服回電。

AI擬聲應用唾手可得。手機應用商店里，“AI配音”相關App下載量超千萬次。198元就能解鎖付費會員，錄入名人聲音無需授權證明。二手交易App上，AI聲音克隆低至10塊以內。

面對AI擬聲、換臉和假新聞，保持懷疑與求證，或許是我們應對虛假內容的最后堡壘。

消費者對AI騙局難以維權

消費者吳鑫就差點被這類直播間欺騙。他想購買韓國Hexkin品牌的護膚品，刷視頻時偶然進入一個名為@暢姐美妝護膚（韓國專場）的直播間，演員舒暢正在介紹并售賣該品牌護膚品。出于對舒暢的信任，吳鑫打算下單，卻在點擊商品鏈接時發現，商品竟是名為HanjiLian的產品。兩款產品包裝相似，不仔細看很容易買錯。吳鑫留言詢問，卻被踢出直播間。之后，他發現平臺上有許多類似賬號，直播內容都是舒暢帶貨，但商品鏈接與介紹不符。他截圖私信舒暢的官方賬號，得知這些均非舒暢賬號，工作人員提醒他謹慎下單。

這些盜播賬號與明星賬號高度相似，比如抖音賬號@瓷炫姐姐與演員秋瓷炫的賬號頭像一致。@瓷炫姐姐直播時，播放的是秋瓷炫之前的帶貨錄播視頻，介紹的是Hexkin品牌產品，商品鏈接卻是類似包裝但名為KaFanLin的產品。消費者若不仔細辨別，會誤以為真是秋瓷炫在直播帶貨，收到貨后才發現品牌不同。

這些盜播賬號不僅欺騙消費者，損害其權益，還破壞明星形象和聲譽。消費者和明星面對這些盜播騙子，都很難維權，因為賬號被發現后會很快注銷，騙子再注冊新賬號繼續行騙。

深度偽造為何難以遏制

偽造名人賬號帶貨現象猖獗，與追責困難緊密相關。此類賬號數量龐大、分布廣泛，逐個維權幾乎不可能。而且，這些賬號手段多樣，如趁深夜放出帶貨視頻，早上又將其屏蔽，讓消費者投訴無門，也增加了被發現的難度。

這種亂象不能再持續下去。目前已有《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定，對生成AI的規范使用提出要求，特別是在內容審核、信息標識方面，后者還明確規定使用AI生成內容不得侵害他人肖像權。

然而，AI產業快速發展，信息呈爆炸式增長，給AI信息甄別帶來極大困難。據《2024人工智能安全報告》，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件增長1000%，形勢十分嚴峻。

解決問題的關鍵在于執行，短視頻平臺作為生成AI的主要使用場景，要主動擔起主體責任。對生成AI內容進行更嚴格審核，定期大規模篩查內容，一旦發現違規使用，就對賬號嚴肅處理。

北京郵電大學互聯網治理與法律研究中心主任謝永江指出，網絡平臺應加強專業類賬號的注冊管理和日常巡查，防止虛假標注誤導網民。對于利用AI生成假神醫等新型科技手段虛假宣傳的企業，要依法追究其法律責任。執法部門也應提升執法能力，配備相應技術，快速有效識別并打擊此類違法行為。

（文章綜合《人民日報》《南方都市報》《新周刊》等）

編輯：卡卡

策劃/審核：Ziven