前不久，內蒙古包頭警方就曾通報，有騙子利用AI換臉和擬聲技術佯裝熟人實施詐騙，福州市某公司法人代表郭先生10分鐘內就被騙走430萬元。另一起發生在安徽安慶經濟開發區的案件中，詐騙分子僅使用一段9秒鐘的AI換臉視頻，就從受害人處騙走了245萬元。這兩起典型案例引發了廣泛關注和討論。

當下，隨著人工智能技術（AI）的迅猛發展，AI換臉詐騙等新型犯罪也呈現上升趨勢。通過深度學習和生成式模型，詐騙方能夠以數字化手段融合他人的面孔和聲音，制造出逼真的合成圖像。深度偽造的換臉視頻和聲音片段常常令受害者放松警惕，導致上當受騙，蒙受經濟損失。

好消息是，針對AI數字技術犯罪，國家層面相關立法研究工作正在持續積極推進。

今年接連發布相關管理辦法

今年以來，有關深度合成、自動生成等AI技術應用的管理辦法頻頻發布。

1月，中國國家互聯網信息辦公室、工業和信息化部、公安部聯合出臺《互聯網信息服務深度合成管理規定》，細化了深度合成技術支持者、服務提供者、服務使用者以及應用程序分發平臺的主體責任。

4月，中國國家互聯網信息辦公室就《生成式人工智能服務管理辦法(征求意見稿)》向社會公開征求意見。該辦法建立了AI服務的規范管理框架，要求提供生成式人工智能產品或服務的企業或個人進行實名認證、信息公示、申報安全評估、履行算法備案和變更、注銷備案手續等。上述規定和辦法的逐步落實應能在一定程度上遏制非法個體或組織實施AI詐騙的行為。

6月25日，全國人大常委會法制工作委員會舉行記者會，針對有關利用“AI換臉”技術進行視頻合成，進而實施詐騙的問題，發言人臧鐵偉指出：“萬變不離其宗，通過‘AI換臉’進行視頻合成、實施詐騙的行為，是利用新技術進行的詐騙，與傳統詐騙行為在本質上沒有區別。”

應當看到，國家層面制定的反電信網絡詐騙法、刑法等法律為打擊治理各類電信網絡詐騙活動提供了較為充分地支撐，AI換臉、AI擬聲、AI釣魚郵件等詐騙行為并沒有逃出既有法律的打擊范圍。

立法之外，協同治理不可或缺

當前，隨著深度學習等AI技術的成熟，AI詐騙呈現手段愈發多樣、門檻大幅降低、辨別難度加大等特點，并且犯罪成本也很低。在網絡上，一些高逼真的換臉付費軟件售價僅在幾百元至幾千元之間，大量被泄露的個人信息和數據也能以較低價格獲取。這可能會導致大量侵權內容生成，進而對公民肖像權、名譽權和隱私權構成巨大威脅，僅靠立法規制并不能徹底解決，還需要相應行政治理措施的協同。

首先是要大力加強監管機構的能力建設。利用機器學習和數據挖掘、區塊鏈等技術加強對AI應用的監管與審查，及時發現和應對新型犯罪手法。

其次是加強技術研究和創新。開發先進的防御工具和技術來檢測、識別和防范利用AI等高科技進行的詐騙犯罪。例如，開發強大的身份驗證技術、欺詐檢測算法和反欺詐系統等。

同時，還需要大力加強跨部門、跨行業乃至跨國的協同合作，共建網絡安全生態系統。建立公安、工信、網信、市場監管部門等政府部門會同電信企業、通訊軟件提供商、銀行等企業的聯合工作機制，提供技術解決方案，推動行業標準和最佳實踐，共同監測和維護網絡安全。

普通人可以做什么

更為關鍵的是，每個居民都是個人信息安全的第一責任人，需加強保護意識，防止信息泄露，尤其是不能輕易提供人臉、指紋等個人生物信息給他人。以下一些建議，或可幫助個人辨別AI換臉詐騙情況。

不尋常的請求或交流：如果你收到了一條突然出現的請求或消息，其中包含進行不尋常行為的要求，例如轉賬款項、提供個人信息等，需要保持警惕，不輕易回應。

異常的語言和行為：盡管AI換臉技術可以逼真地模仿原始人物的語言和行為，但仍可能存在一些異常之處。例如不連貫的語句、奇怪的語法錯誤、與平時不符的態度和行為等。如果你感覺對方的語言和行為稍有“不同尋常”，就要立刻警覺。

細致觀察面部特征和動作：使用AI換臉技術模仿原始人物的面部特征和動作，目前還不能在細節上做到百分百完美匹配，因此需要留意細節上的異常，例如眼睛的移動不協調、面部表情不自然、唇形不匹配等。如果觀察到類似情形，就要懷疑其真實性。

認真核實身份和信息：在收到涉及重要決策或敏感信息的請求時，一定要堅持在第一時間核實對方的身份和信息，例如直接與其進行電話或面對面溝通，而不僅僅依賴于在線交流。

留意平臺的警示：部分社交媒體和在線平臺已經采取了一些措施來標識或警告AI換臉生成的內容。如果您在社交媒體或在線平臺上看到有關特定賬戶或內容的緊急提示，須保持警醒。

與此同時，日常生活中要時刻注意不泄露個人信息。比如，前段時間上海街頭有許多小販手持印有二維碼的紙牌與路人搭訕，說只要掃一掃就可以免費贈送大鵝公仔。看似輕無足輕重的請求和萌萌的大鵝，很容易讓人喪失警惕。然而，只要輕輕一掃，竊取個人信息、植入惡意軟件和病毒，非法訪問手機相冊、麥克風等風險就可能接踵而至。

因此，每個人隨時都要保持警惕和謹慎，不要隨意相信和執行不尋常的請求。如果懷疑自己遇到了AI換臉詐騙，最佳做法是暫停與對方交流，核實其信息和身份，咨詢專業人士，并及時向執法機構報告。

治理和防范“AI換臉”等新型詐騙犯罪，仍然需通過立法、治理和公共教育等各方多管齊下地努力，并合理引導科技向善，才能應對潛在威脅，維護社會安全與穩定。

 --------

城市因集聚而誕生。

一座城市的公共政策、人居環境、習俗風氣塑造了市民生活的底色。

澎湃城市觀察，聚焦公共政策，回應大眾關切，探討城市議題。