3月10日以來，一則“有頂流明星在澳門輸了10億”的信息被大量傳播，引發(fā)網(wǎng)民熱議和各種猜測，相關(guān)話題頻繁登上熱搜熱榜。不過，這又是一起AI謠言。

公安網(wǎng)安部門查明，網(wǎng)民徐某強(qiáng)（男，36歲）為博取流量、謀取非法利益，于3月10日使用軟件“某書”中AI智慧生成功能，輸入社會熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯”的謠言信息，并通過互聯(lián)網(wǎng)平臺對外發(fā)布。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，對徐某強(qiáng)處以行政拘留8日處罰。

這個謠言可謂“看點(diǎn)”十足，明星、豪賭、10億，每一個關(guān)鍵字都足夠勁爆，都打在了輿論場的興奮點(diǎn)上。難怪消息一出爐，確實(shí)如這個假新聞的標(biāo)題一般，“引發(fā)輿論海嘯”，甚至逼得多位男明星站出來辟謠。

網(wǎng)傳謠言截圖

之所以說是“又一起”，是因?yàn)锳I謠言最近實(shí)在太頻繁了。就在前兩天，一則“上海退休教授靠陽臺核電池供電”的消息在網(wǎng)上流傳，但隨后被發(fā)現(xiàn)是用AI生成的圖片剪輯而成；今年1月7日，西藏定日縣發(fā)生6.8級地震，之后大量“小男孩被埋圖”在互聯(lián)網(wǎng)平臺廣泛傳播，隨后也被發(fā)現(xiàn)是“AI作品”。

當(dāng)然，這不是說AI自己會造謠，相關(guān)的AI謠言大多是別有用心的網(wǎng)民利用AI工具制作的，所以治理AI謠言首先要嚴(yán)懲始作俑者；但另一方面，當(dāng)強(qiáng)大的AI工具被越來越頻繁地用于生產(chǎn)謠言時，“治AI”也要齊頭并進(jìn)。

毫無疑問，AI極大地拉低了信息造假門檻。過去“純手工制作”的假新聞，由于寫作者往往并不熟練，信息中很容易露出馬腳。但AI則“專業(yè)”很多，新聞5個W要素編得天衣無縫，還能自己生成圖片，讓假消息顯得“有圖有真相”，更容易起到以假亂真的效果。

更關(guān)鍵的是，AI的造假能力幾乎沒有上限。2024年，南昌一家MCN機(jī)構(gòu)因?yàn)槔肁I造謠被查處，這家MCN機(jī)構(gòu)用AI生成文章和圖片，最高峰一天能生成4000至7000篇，每天收入在萬元以上。如此巨大的體量，讓所謂“AI污染”之類的擔(dān)憂變得非?，F(xiàn)實(shí)。

今年年初，世界經(jīng)濟(jì)論壇發(fā)布的《2025年全球風(fēng)險(xiǎn)報(bào)告》，其中列舉的今年全球面臨的五大風(fēng)險(xiǎn)中，就包括錯誤和虛假信息，和武裝沖突、極端天氣、地緣經(jīng)濟(jì)對抗、社會極化并列?？梢娞摷傩畔φＩ鐣刃虻臎_擊是真實(shí)的，也是近在眼前、迫切需要做出改變的。

事實(shí)上，監(jiān)管部門一直在升級對AI生成內(nèi)容的管理?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》等（編注：該辦法今天已正式發(fā)布），都對生成內(nèi)容的標(biāo)識和使用范圍等做出了規(guī)定。

然而在現(xiàn)實(shí)中，這些規(guī)定要形成有強(qiáng)制力的規(guī)范，卻并不容易。一些互聯(lián)網(wǎng)平臺的提示并不清晰，很容易被讀者忽略；一些平臺奉行“先發(fā)后審”原則，給假信息傳播提供了時間窗口；一些平臺技術(shù)能力有限，無法識別AI作品，導(dǎo)致虛假信息成為漏網(wǎng)之魚，都是原因。

這都意味著，圍繞虛假信息的治理應(yīng)當(dāng)持續(xù)發(fā)力。一方面，需要進(jìn)一步明確規(guī)則，強(qiáng)化平臺對AI生成內(nèi)容的主動、顯著標(biāo)識，進(jìn)一步壓緊平臺的審核責(zé)任；另一方面，也需要包括主管部門、互聯(lián)網(wǎng)平臺、科研機(jī)構(gòu)等協(xié)作合力，提高技術(shù)甄別能力，維護(hù)互聯(lián)網(wǎng)信息生態(tài)的純粹。

無論如何，人們必須正視AI污染了。如果不對AI內(nèi)容的制作、傳播加以規(guī)制，恐怕我們的信息空間很快就會被虛假消息塞滿。