伴隨著人工智能技術(shù)的加速發(fā)展近年來，關(guān)于AI深度偽造技術(shù)、AI虛假泛濫等現(xiàn)象屢禁不止，日前國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》（以下簡稱“《標識辦法》”），對AI內(nèi)容的標識提出了三大核心要求，涉及顯式標識、隱式標識和平臺責任。《標識辦法》自2025年9月1日起施行。

在專家看來，當前監(jiān)管部門針對人工智能的治理，尤其是內(nèi)容治理，所遵循的思路是“小步快走”，而非追求大而全。這一思路也符合人工智能技術(shù)的發(fā)展現(xiàn)狀，與人工智能技術(shù)在大規(guī)模應(yīng)用中的產(chǎn)業(yè)場景相契合。

AI生成營銷內(nèi)容必須規(guī)范標注

根據(jù)此次發(fā)布的《標識辦法》，人工智能生成合成內(nèi)容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識；隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。

《標識辦法》提出，服務(wù)提供者提供的生成合成服務(wù)，應(yīng)當按照下列要求對生成合成內(nèi)容添加顯式標識：包括在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識，或在交互場景界面或文字周邊添加顯著的提示標識；在音頻的起始、末尾或中間適當位置添加語音提示或音頻節(jié)奏提示等標識，或在交互場景界面中添加顯著的提示標識等。《標識辦法》明確，違反規(guī)定的，將由網(wǎng)信、電信、公安和廣播電視等有關(guān)主管部門依據(jù)職責，按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處理。

中國科學院科技戰(zhàn)略咨詢研究院研究員肖尤丹向澎湃科技表示，此次新規(guī)雖然切口小，但應(yīng)當把它放到生成式人工智能內(nèi)容治理的總體框架里，與算法備案管理、生成式人工智能服務(wù)管理、深度合成管理相互協(xié)調(diào)、共同發(fā)揮作用的角度去理解。

在肖尤丹看來，當前人工智能的治理，尤其是內(nèi)容治理，所遵循的思路是“小步快走”，而非追求大而全。這種思路符合人工智能技術(shù)的發(fā)展現(xiàn)狀，也與人工智能技術(shù)在大規(guī)模應(yīng)用中的產(chǎn)業(yè)場景相契合。

專注于AI信息安全與數(shù)字資產(chǎn)保護，隱拓智安科技有限公司的工作人員萬嗣芳向澎湃科技分析認為，今后用戶刷到AI生成的明星廣告時，一眼就會看到“AI生成”提示，會避免被虛假宣傳誤導。對于AI公司和互聯(lián)網(wǎng)平臺來說，直觀的影響在于，使用AI批量生成營銷內(nèi)容時，必須像給商品貼成分表一樣規(guī)范標注，否則可能面臨處罰。

萬嗣芳稱，這次文件明確要求，AI服務(wù)提供者和內(nèi)容傳播平臺必須采取措施對AI生成內(nèi)容進行標識。可以預(yù)見，未來AI服務(wù)平臺和各類媒體平臺上都將更加清晰地展示相關(guān)標識，幫助公眾更便捷地識別AI生成內(nèi)容和深度偽造信息，相應(yīng)由AI偽造帶來的謠言情況也會隨之減少。

肖尤丹認為，接下來AI公司和平臺更需要適應(yīng)新規(guī)范下的運營流程。社會對該辦法出臺的預(yù)期比較穩(wěn)定，辦法也預(yù)留了半年左右的準備時間，因此，對大多數(shù)AIGC服務(wù)提供者來說，履行辦法中的“標識義務(wù)”并沒有太大的技術(shù)難度和合規(guī)成本。尤其是現(xiàn)在國內(nèi)主流的AI服務(wù)提供商，實際上已經(jīng)在采取類似的標識方式。不過，對于那些提供接口服務(wù)或間接向公眾提供AI服務(wù)的公司來說，或許會需要一個技術(shù)調(diào)整與合規(guī)的過程。

對AI深度偽造病毒式傳播是一次“致命打擊”

澎湃科技注意到，《標識辦法》中第十條明確規(guī)定，用戶使用網(wǎng)絡(luò)信息傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當主動聲明并使用服務(wù)提供者提供的標識功能進行標識。

在肖尤丹看來，這一細則的好處在于，對于那些利用AI技術(shù)抄襲、搬運內(nèi)容的新媒體營銷號無疑是一次“致命打擊”。

肖尤丹稱，使用者在使用網(wǎng)絡(luò)信息服務(wù)發(fā)布生成合成內(nèi)容時，必須要添加相應(yīng)的隱式或顯式標識，否則將無法通過合規(guī)要求。“一旦使用者在二次傳播過程中添加了自己的內(nèi)容，卻又刪除了原有的隱性標識，那么從隱性標識的角度來看，使用者就違反了保證標識完整性和真實性的義務(wù)。這與標識義務(wù)本身是不同的。”

肖尤丹表示，《標識辦法》制度未來的優(yōu)勢在于，過往對于生成式人工智能的監(jiān)管需要按照每個個案判斷，這對平臺來說監(jiān)管識別難度非常大。而該辦法出臺后，平臺方也可以追溯到服務(wù)提供者，明確其是否履行了標識義務(wù)。

比如，如果使用AI偽造的聲音，系統(tǒng)要求在該聲音的前后段必須加上顯性標識。同時，錄音文件本身也應(yīng)包含隱性標識。如果有人直接搬運并使用偽造聲音進行模仿，那么傳播平臺理論上可以通過顯式標識識別出來，可以有效避免AI偽造聲音在平臺大量傳播。

“標識制度的主要目的是用較小的合規(guī)成本，較好地解決當前AI技術(shù)快速發(fā)展帶來的新問題。因為標識制度的主要目標是實現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管。”肖尤丹說。

律師李昀鍇曾代理全國首例AI生成圖片著作權(quán)侵權(quán)案，他認為，《標識辦法》的核心是為了遏制AI偽造內(nèi)容的傳播，減少謠言、詐騙等社會危害，也能夠推動AI技術(shù)在合法框架內(nèi)發(fā)展，保護公眾知情權(quán)。

如果真的出現(xiàn)被誤導和詐騙的情況，也可以通過標識水印追溯到實際的侵權(quán)人、犯罪者。以后，各類平臺均可能強制要求標注，未合規(guī)的內(nèi)容可能無法發(fā)布。

不過，李昀鍇指出，目前來看，隱式標識在技術(shù)上能否被有效地規(guī)避和移除可能還需要各平臺繼續(xù)探索，尋找一條技術(shù)上可行的統(tǒng)一路線。

肖尤丹稱，AI技術(shù)發(fā)展和AI安全發(fā)展本身是“一體兩面”的關(guān)系，但近兩年，從投資上的熱情來看，大家更愿意投入人工智能技術(shù)發(fā)展，而不愿意投入人工智能安全方面。他認為，此次《標識辦法》的出臺，對于AI安全行業(yè)的發(fā)展也是一個利好的信號。

萬嗣芳也坦言，在過去兩年，AI行業(yè)主要聚焦于模型能力和應(yīng)用的快速迭代上，安全問題往往被視為次要考量。《標識辦法》的出臺將使企業(yè)意識到安全合規(guī)的重要性，推動企業(yè)加大在安全能力建設(shè)方面的投入，相應(yīng)也為AI安全技術(shù)公司創(chuàng)造更多市場機遇。