伴隨著人工智能技術的加速發展近年來，關于AI深度偽造技術、AI虛假泛濫等現象屢禁不止，日前國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱“《標識辦法》”），對AI內容的標識提出了三大核心要求，涉及顯式標識、隱式標識和平臺責任。《標識辦法》自2025年9月1日起施行。

在專家看來，當前監管部門針對人工智能的治理，尤其是內容治理，所遵循的思路是“小步快走”，而非追求大而全。這一思路也符合人工智能技術的發展現狀，與人工智能技術在大規模應用中的產業場景相契合。

AI生成營銷內容必須規范標注

根據此次發布的《標識辦法》，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

《標識辦法》提出，服務提供者提供的生成合成服務，應當按照下列要求對生成合成內容添加顯式標識：包括在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識，或在交互場景界面或文字周邊添加顯著的提示標識；在音頻的起始、末尾或中間適當位置添加語音提示或音頻節奏提示等標識，或在交互場景界面中添加顯著的提示標識等。《標識辦法》明確，違反規定的，將由網信、電信、公安和廣播電視等有關主管部門依據職責，按照有關法律、行政法規、部門規章的規定予以處理。

中國科學院科技戰略咨詢研究院研究員肖尤丹向澎湃科技表示，此次新規雖然切口小，但應當把它放到生成式人工智能內容治理的總體框架里，與算法備案管理、生成式人工智能服務管理、深度合成管理相互協調、共同發揮作用的角度去理解。

在肖尤丹看來，當前人工智能的治理，尤其是內容治理，所遵循的思路是“小步快走”，而非追求大而全。這種思路符合人工智能技術的發展現狀，也與人工智能技術在大規模應用中的產業場景相契合。

專注于AI信息安全與數字資產保護，隱拓智安科技有限公司的工作人員萬嗣芳向澎湃科技分析認為，今后用戶刷到AI生成的明星廣告時，一眼就會看到“AI生成”提示，會避免被虛假宣傳誤導。對于AI公司和互聯網平臺來說，直觀的影響在于，使用AI批量生成營銷內容時，必須像給商品貼成分表一樣規范標注，否則可能面臨處罰。

萬嗣芳稱，這次文件明確要求，AI服務提供者和內容傳播平臺必須采取措施對AI生成內容進行標識。可以預見，未來AI服務平臺和各類媒體平臺上都將更加清晰地展示相關標識，幫助公眾更便捷地識別AI生成內容和深度偽造信息，相應由AI偽造帶來的謠言情況也會隨之減少。

肖尤丹認為，接下來AI公司和平臺更需要適應新規范下的運營流程。社會對該辦法出臺的預期比較穩定，辦法也預留了半年左右的準備時間，因此，對大多數AIGC服務提供者來說，履行辦法中的“標識義務”并沒有太大的技術難度和合規成本。尤其是現在國內主流的AI服務提供商，實際上已經在采取類似的標識方式。不過，對于那些提供接口服務或間接向公眾提供AI服務的公司來說，或許會需要一個技術調整與合規的過程。

對AI深度偽造病毒式傳播是一次“致命打擊”

澎湃科技注意到，《標識辦法》中第十條明確規定，用戶使用網絡信息傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。

在肖尤丹看來，這一細則的好處在于，對于那些利用AI技術抄襲、搬運內容的新媒體營銷號無疑是一次“致命打擊”。

肖尤丹稱，使用者在使用網絡信息服務發布生成合成內容時，必須要添加相應的隱式或顯式標識，否則將無法通過合規要求。“一旦使用者在二次傳播過程中添加了自己的內容，卻又刪除了原有的隱性標識，那么從隱性標識的角度來看，使用者就違反了保證標識完整性和真實性的義務。這與標識義務本身是不同的。”

肖尤丹表示，《標識辦法》制度未來的優勢在于，過往對于生成式人工智能的監管需要按照每個個案判斷，這對平臺來說監管識別難度非常大。而該辦法出臺后，平臺方也可以追溯到服務提供者，明確其是否履行了標識義務。

比如，如果使用AI偽造的聲音，系統要求在該聲音的前后段必須加上顯性標識。同時，錄音文件本身也應包含隱性標識。如果有人直接搬運并使用偽造聲音進行模仿，那么傳播平臺理論上可以通過顯式標識識別出來，可以有效避免AI偽造聲音在平臺大量傳播。

“標識制度的主要目的是用較小的合規成本，較好地解決當前AI技術快速發展帶來的新問題。因為標識制度的主要目標是實現大規模、高可靠性和低成本的監管。”肖尤丹說。

律師李昀鍇曾代理全國首例AI生成圖片著作權侵權案，他認為，《標識辦法》的核心是為了遏制AI偽造內容的傳播，減少謠言、詐騙等社會危害，也能夠推動AI技術在合法框架內發展，保護公眾知情權。

如果真的出現被誤導和詐騙的情況，也可以通過標識水印追溯到實際的侵權人、犯罪者。以后，各類平臺均可能強制要求標注，未合規的內容可能無法發布。

不過，李昀鍇指出，目前來看，隱式標識在技術上能否被有效地規避和移除可能還需要各平臺繼續探索，尋找一條技術上可行的統一路線。

肖尤丹稱，AI技術發展和AI安全發展本身是“一體兩面”的關系，但近兩年，從投資上的熱情來看，大家更愿意投入人工智能技術發展，而不愿意投入人工智能安全方面。他認為，此次《標識辦法》的出臺，對于AI安全行業的發展也是一個利好的信號。

萬嗣芳也坦言，在過去兩年，AI行業主要聚焦于模型能力和應用的快速迭代上，安全問題往往被視為次要考量。《標識辦法》的出臺將使企業意識到安全合規的重要性，推動企業加大在安全能力建設方面的投入，相應也為AI安全技術公司創造更多市場機遇。