編者按：百年未有之大變局，全球風險急劇上升。各個國家和地區如何求生存，謀發展，搞競合，爭未來？誰來指南找北？世界各國智庫各顯神通，仰觀俯察，深思熟慮，出謀劃策。北京大學區域與國別研究院特開辟全球智點卡片專欄，以極簡方式提煉要點，全球智點，一卡在握。同時，也歡迎讀者循例投稿，形成全球智點的爆炸式擴散效應。

標簽：#人工智能/合成媒體/信息安全

觀點：合成媒體的發展對全球安全、經濟帶來多方面挑戰，需要世界從技術研發、公眾教育、國際合作等多個方面入手才能應對人工智能帶來的威脅。

背景：人工智能合成媒體的興起創造了高度仿真的虛假內容

1.近年來，危險分子日益傾向于利用合成媒體——一種由人工智能生成或操控的數字內容——來加劇其欺騙性活動。這些活動不僅范圍廣泛，而且隨著合成媒體的技術進步而頻率增加，對全球各地的個人與組織造成了日益嚴重的傷害。合成媒體形式多樣，包括文本、圖像、音頻和視頻等，隨著人工智能技術的飛速發展，創建高度仿真的合成內容所需的數據量、計算能力及成本均大幅下降，使得制造逼真數字內容變得輕而易舉，幾乎人人可為。

2.合成媒體的濫用問題已深刻影響到美國的信息環境穩定與韌性，構成了前所未有的挑戰。它不僅侵蝕了個人的名譽權與隱私權，還嚴重削弱了公眾對信息的信任基礎，進而可能激化社會矛盾，誘發政治危機。特別是在選舉周期中，利用AI生成的虛假內容能迅速擴散錯誤信息，混淆選民視聽，直接干擾選舉公正性。此外，合成媒體還被廣泛應用于軍事欺詐、網絡攻擊、間諜滲透及秘密監視等多個敏感領域，對國家安全屏障與國際秩序穩定構成了隱蔽而深遠的潛在威脅。

Photo: Di Studio | gsshot | andriano_cz/Adobe Stock

內容：人工智能合成媒體引起的信息信任危機

1.人類檢測能力的退化

CSIS（美國戰略與國際問題研究中心）的一項實驗研究顯示，人類區分真實媒體與合成媒體的能力正顯著下降。隨著人工智能技術的持續進步，即便是經過專業訓練的人員也難以精確辨識合成內容。這一現狀表明，傳統依賴人類感官判斷內容真實性的方法已逐漸失效，迫切需要開發新的應對策略以應對這一新興的安全挑戰。

2.合成媒體的多領域應用

·政治領域：合成媒體被用于制作政客或公眾人物的虛假視頻，用以批評對手、承諾政策變動，從而在選舉周期內制造混亂與不確定性。

·軍事領域：通過生成高度逼真的戰場模擬和虛假情報，合成媒體在軍事欺騙中扮演關鍵角色，旨在干擾敵方的戰略判斷與決策過程。

·經濟領域：AI生成的虛假金融信息、廣告，以及利用合成媒體進行的身份盜用和詐騙活動，對全球經濟安全構成了重大威脅。

·社會領域：合成媒體還被廣泛用于散布虛假新聞、制造社會恐慌、煽動不滿情緒，嚴重破壞了社會的穩定與和諧。

3.合成媒體對信息信任的威脅

合成媒體的泛濫已深刻影響了公眾的信息信任體系。面對真實與虛假的界限日益模糊，人們對所有信息的信任度普遍下滑。這不僅削弱了媒體機構和政府的公信力，還可能加劇社會分裂，促進極端主義思想的蔓延。從長遠來看，這一趨勢將對全球的穩定與發展構成不容忽視的重大挑戰。

建議：從技術、管理、教育、合作等多個維度加強對信息環境的保護

1.加強技術研發與創新：

為應對合成媒體帶來的挑戰，應加大對先進檢測技術和工具的研發投入，提升人工智能對合成內容的識別精度。同時，推動構建AI技術的倫理規范和法律框架，確保技術的健康發展與合理應用，平衡技術進步與社會倫理的關系。

2.提升公眾教育與意識：

加強公眾教育，通過舉辦講座、研討會、在線課程等多種形式，普及合成媒體相關知識，提升公眾的信息識別能力和媒介素養。引導公眾理性看待AI技術，培養批判性思維，增強自我保護意識。

3.加強國際合作與監管

建立跨國界的合作機制，共同打擊利用合成媒體進行的非法活動，加強國際間的信息交流和情報共享，提升協同應對跨國威脅的能力。推動制定國際性的合成媒體監管標準和法規，為各國提供法律指導和制度保障，促進全球信息環境的穩定與安全。

4.推動行業自律與責任擔當：

鼓勵AI和合成媒體行業加強自律，制定并遵守行業規范和道德準則，建立自我監管機制。推動相關企業積極履行社會責任，參與合成媒體治理和公益事業，共同維護全球信息環境的健康與安全，促進技術的可持續發展與社會福祉的增進。

結論：人工智能與合成媒體的快速發展帶來了前所未有的機遇和挑戰。面對合成媒體帶來的種種問題，我們需要從技術研發、公眾教育、國際合作和行業自律等多個方面入手，共同構建一個健康、安全、可持續的信息環境。只有這樣，我們才能確保AI技術的健康發展，為全球的繁榮與穩定貢獻智慧和力量。

來源：《穿越Deepfake Rubicon》，美國戰略與國際問題研究中心，2024年11月1日，https://www.csis.org/analysis/crossing-deepfake-rubicon

整理者：馬瑞，中央戲劇學院本科生