伴隨著人工智能技術的加速發(fā)展近年來，關于AI深度偽造技術、AI虛假泛濫等現象屢禁不止，日前國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》（以下簡稱“《標識辦法》”），對AI內容的標識提出了三大核心要求，涉及顯式標識、隱式標識和平臺責任。《標識辦法》自2025年9月1日起施行。

在專家看來，當前監(jiān)管部門針對人工智能的治理，尤其是內容治理，所遵循的思路是“小步快走”，而非追求大而全。這一思路也符合人工智能技術的發(fā)展現狀，與人工智能技術在大規(guī)模應用中的產業(yè)場景相契合。

AI生成營銷內容必須規(guī)范標注

根據此次發(fā)布的《標識辦法》，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

《標識辦法》提出，服務提供者提供的生成合成服務，應當按照下列要求對生成合成內容添加顯式標識：包括在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識，或在交互場景界面或文字周邊添加顯著的提示標識；在音頻的起始、末尾或中間適當位置添加語音提示或音頻節(jié)奏提示等標識，或在交互場景界面中添加顯著的提示標識等。《標識辦法》明確，違反規(guī)定的，將由網信、電信、公安和廣播電視等有關主管部門依據職責，按照有關法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處理。

中國科學院科技戰(zhàn)略咨詢研究院研究員肖尤丹向澎湃科技表示，此次新規(guī)雖然切口小，但應當把它放到生成式人工智能內容治理的總體框架里，與算法備案管理、生成式人工智能服務管理、深度合成管理相互協(xié)調、共同發(fā)揮作用的角度去理解。

在肖尤丹看來，當前人工智能的治理，尤其是內容治理，所遵循的思路是“小步快走”，而非追求大而全。這種思路符合人工智能技術的發(fā)展現狀，也與人工智能技術在大規(guī)模應用中的產業(yè)場景相契合。

專注于AI信息安全與數字資產保護，隱拓智安科技有限公司的工作人員萬嗣芳向澎湃科技分析認為，今后用戶刷到AI生成的明星廣告時，一眼就會看到“AI生成”提示，會避免被虛假宣傳誤導。對于AI公司和互聯(lián)網平臺來說，直觀的影響在于，使用AI批量生成營銷內容時，必須像給商品貼成分表一樣規(guī)范標注，否則可能面臨處罰。

萬嗣芳稱，這次文件明確要求，AI服務提供者和內容傳播平臺必須采取措施對AI生成內容進行標識。可以預見，未來AI服務平臺和各類媒體平臺上都將更加清晰地展示相關標識，幫助公眾更便捷地識別AI生成內容和深度偽造信息，相應由AI偽造帶來的謠言情況也會隨之減少。

肖尤丹認為，接下來AI公司和平臺更需要適應新規(guī)范下的運營流程。社會對該辦法出臺的預期比較穩(wěn)定，辦法也預留了半年左右的準備時間，因此，對大多數AIGC服務提供者來說，履行辦法中的“標識義務”并沒有太大的技術難度和合規(guī)成本。尤其是現在國內主流的AI服務提供商，實際上已經在采取類似的標識方式。不過，對于那些提供接口服務或間接向公眾提供AI服務的公司來說，或許會需要一個技術調整與合規(guī)的過程。

對AI深度偽造病毒式傳播是一次“致命打擊”

澎湃科技注意到，《標識辦法》中第十條明確規(guī)定，用戶使用網絡信息傳播服務發(fā)布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。

在肖尤丹看來，這一細則的好處在于，對于那些利用AI技術抄襲、搬運內容的新媒體營銷號無疑是一次“致命打擊”。

肖尤丹稱，使用者在使用網絡信息服務發(fā)布生成合成內容時，必須要添加相應的隱式或顯式標識，否則將無法通過合規(guī)要求。“一旦使用者在二次傳播過程中添加了自己的內容，卻又刪除了原有的隱性標識，那么從隱性標識的角度來看，使用者就違反了保證標識完整性和真實性的義務。這與標識義務本身是不同的。”

肖尤丹表示，《標識辦法》制度未來的優(yōu)勢在于，過往對于生成式人工智能的監(jiān)管需要按照每個個案判斷，這對平臺來說監(jiān)管識別難度非常大。而該辦法出臺后，平臺方也可以追溯到服務提供者，明確其是否履行了標識義務。

比如，如果使用AI偽造的聲音，系統(tǒng)要求在該聲音的前后段必須加上顯性標識。同時，錄音文件本身也應包含隱性標識。如果有人直接搬運并使用偽造聲音進行模仿，那么傳播平臺理論上可以通過顯式標識識別出來，可以有效避免AI偽造聲音在平臺大量傳播。

“標識制度的主要目的是用較小的合規(guī)成本，較好地解決當前AI技術快速發(fā)展帶來的新問題。因為標識制度的主要目標是實現大規(guī)模、高可靠性和低成本的監(jiān)管。”肖尤丹說。

律師李昀鍇曾代理全國首例AI生成圖片著作權侵權案，他認為，《標識辦法》的核心是為了遏制AI偽造內容的傳播，減少謠言、詐騙等社會危害，也能夠推動AI技術在合法框架內發(fā)展，保護公眾知情權。

如果真的出現被誤導和詐騙的情況，也可以通過標識水印追溯到實際的侵權人、犯罪者。以后，各類平臺均可能強制要求標注，未合規(guī)的內容可能無法發(fā)布。

不過，李昀鍇指出，目前來看，隱式標識在技術上能否被有效地規(guī)避和移除可能還需要各平臺繼續(xù)探索，尋找一條技術上可行的統(tǒng)一路線。

肖尤丹稱，AI技術發(fā)展和AI安全發(fā)展本身是“一體兩面”的關系，但近兩年，從投資上的熱情來看，大家更愿意投入人工智能技術發(fā)展，而不愿意投入人工智能安全方面。他認為，此次《標識辦法》的出臺，對于AI安全行業(yè)的發(fā)展也是一個利好的信號。

萬嗣芳也坦言，在過去兩年，AI行業(yè)主要聚焦于模型能力和應用的快速迭代上，安全問題往往被視為次要考量。《標識辦法》的出臺將使企業(yè)意識到安全合規(guī)的重要性，推動企業(yè)加大在安全能力建設方面的投入，相應也為AI安全技術公司創(chuàng)造更多市場機遇。