現(xiàn)在通過AI生成發(fā)布1萬條500字左右的小作文有多快？1個(gè)AI軟件1個(gè)小時(shí)就能做到。

通過對“資訊池”內(nèi)容的采集，結(jié)合AI加工后，大量自媒體號(hào)不實(shí)貼文便能自動(dòng)生成并發(fā)布，變?yōu)橐粭l條看似貨真價(jià)實(shí)的“新聞”，而內(nèi)容發(fā)布者甚至沒閱讀過生成的文章內(nèi)容……

3月下旬，一則“‘醫(yī)學(xué)泰斗’華山醫(yī)院前院長張明遠(yuǎn)因闌尾炎未得到及時(shí)救治，客死他鄉(xiāng)醫(yī)院走廊長椅”的消息在網(wǎng)絡(luò)流傳。后經(jīng)上海警方核實(shí)確認(rèn)，該條消息為網(wǎng)絡(luò)謠言。

4月22日，澎湃新聞（www.kxwhcb.com）記者從上海市公安局獲悉，編造該謠言的網(wǎng)絡(luò)水軍團(tuán)伙被搗毀，3名犯罪嫌疑人已被上海靜安警方依法采取刑事強(qiáng)制措施，相關(guān)違法賬號(hào)被依法封禁。

“華山醫(yī)院前院長客死他鄉(xiāng)”的虛假消息。 上海市公安局供圖

經(jīng)查，自2025年2月起，犯罪嫌疑人王某某、郭某某、石某某等3人成立了工作室，通過自媒體賬號(hào)發(fā)文吸粉引流牟利。他們通過控制500余個(gè)自媒體賬號(hào)，設(shè)置社會(huì)熱點(diǎn)、明星緋聞、爆款推薦等關(guān)鍵詞策略，引導(dǎo)AI軟件自動(dòng)生成并發(fā)布不實(shí)貼文30余萬條，造成惡劣社會(huì)影響。截至案發(fā)，非法牟利共計(jì)4萬余元。目前，案件正在進(jìn)一步偵辦中。

記者了解到，今年以來，上海公安按照“以打開路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級(jí)懲治涉謠賬號(hào)，嚴(yán)厲打擊“造熱點(diǎn)”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。截至目前，已破獲網(wǎng)絡(luò)水軍案件15起，抓獲38名違法犯罪嫌疑人。

網(wǎng)絡(luò)上的不實(shí)信息五花八門，用AI軟件批量生產(chǎn)小作文的模式究竟是如何運(yùn)作的？犯罪嫌疑人又是如何看待自身行為及產(chǎn)生的虛假信息風(fēng)險(xiǎn)？4月22日上午，澎湃新聞?dòng)浾邅淼缴虾ｌo安區(qū)看守所，采訪了犯罪嫌疑人王某某和上海市公安局網(wǎng)安總隊(duì)。

公安機(jī)關(guān)審訊犯罪嫌疑人。 上海市公安局供圖

【對話犯罪嫌疑人】

澎湃新聞：“張明遠(yuǎn)”這個(gè)名字、身份信息及“病死”經(jīng)歷是從哪里獲悉的？

王某某：4月19日警方找到我時(shí)告訴我，我在某平臺(tái)發(fā)布的文章涉嫌造謠，當(dāng)時(shí)我并不知道具體是哪條。直到現(xiàn)在我才大概了解到“張明遠(yuǎn)”這篇文章的具體內(nèi)容，文章在發(fā)布時(shí)我沒看過，完全沒意識(shí)到這是AI虛構(gòu)編造出來的，此前我也不知道上海有華山醫(yī)院。

澎湃新聞：做AI生產(chǎn)發(fā)布“小作文”這個(gè)“生意”多久了？為何會(huì)對內(nèi)容如此放心？

王某某：我們是從今年2月開始，在某App內(nèi)按熱度榜去采集別人發(fā)布過的內(nèi)容，再用AI輸入關(guān)鍵詞批量“搬運(yùn)加工”，生成后我們就通過軟件直接發(fā)布。該App內(nèi)包含大部分網(wǎng)絡(luò)上的資訊，官方媒體、自媒體都有，我們想都是別人發(fā)過的內(nèi)容，就沒有核實(shí)內(nèi)容的真實(shí)性。另一方面，出于對平臺(tái)內(nèi)容同質(zhì)化的管理要求，我們也會(huì)通過AI“再加工”，“張明遠(yuǎn)”就是這樣生產(chǎn)出來的。

澎湃新聞：你對自己發(fā)布的內(nèi)容是如何分類界定的？現(xiàn)在跳脫出自媒體從業(yè)者身份后，作為普通讀者，又是如何看待的？

王某某：我們本身做的是短資訊類消息，內(nèi)容也會(huì)限定在體育、娛樂、職場、養(yǎng)老等領(lǐng)域，當(dāng)時(shí)我們只覺得自己做的是日常信息、觀點(diǎn)分享，類似于社交平臺(tái)的內(nèi)容發(fā)布。

（現(xiàn)在回過頭來看），作為讀者我肯定認(rèn)為這些社會(huì)領(lǐng)域的內(nèi)容是新聞?lì)愋偷?，我們在?nèi)容發(fā)布時(shí)沒有把握好尺度，太急功近利了，沒有意識(shí)到造謠會(huì)產(chǎn)生的不良后果。

澎湃新聞：除了這次因“張明遠(yuǎn)”文章被公安機(jī)關(guān)處罰外，此前你也有被平臺(tái)處罰過的經(jīng)歷，為什么還在做？

王某某：此前做的娛樂領(lǐng)域比較多，在某女明星去世時(shí)，我記得有篇文章因?yàn)檎劦剿⒆訐狃B(yǎng)權(quán)的問題被平臺(tái)扣分。這篇文章也是按熱度采集，再用AI改寫的。當(dāng)時(shí)覺得出問題可能只是偶發(fā)情況，沒有意識(shí)到問題背后的風(fēng)險(xiǎn)及嚴(yán)重性。

【對話網(wǎng)安總隊(duì)三隊(duì)隊(duì)長符斌】

澎湃新聞：“華山醫(yī)院前院長客死他鄉(xiāng)”這條謠言是怎么被關(guān)注到的？

符斌：3月5日，我們在日常巡查中發(fā)現(xiàn)，“華山醫(yī)院前院長客死他鄉(xiāng)”的消息先在圈群中廣泛傳播，隨后又傳播到網(wǎng)絡(luò)平臺(tái)上。我們隨即聯(lián)系屬地公安跟醫(yī)院核實(shí)，確認(rèn)為虛假信息后，我們就立即開展了調(diào)查。

澎湃新聞：日常工作中公安機(jī)關(guān)對網(wǎng)絡(luò)謠言有哪些發(fā)現(xiàn)查處機(jī)制？

符斌：針對網(wǎng)絡(luò)謠言的發(fā)現(xiàn)處置，我們除了落實(shí)技術(shù)+人工的巡查制度外，也有相應(yīng)的舉報(bào)機(jī)制。同時(shí)，公安機(jī)關(guān)網(wǎng)安部門與相關(guān)職能部門建立了“巡查監(jiān)測-核查反饋-會(huì)商研判-線索移送-打擊處置”的閉環(huán)機(jī)制。針對不實(shí)謠言信息，公安機(jī)關(guān)始終采取“零容忍”的態(tài)度，發(fā)現(xiàn)一起，處置一起。

澎湃新聞：從指導(dǎo)部門的角度看，造謠的目的有哪些？為何上海容易成為謠言的“背景板”？

符斌：謠言涉及的領(lǐng)域類型非常廣泛，它本質(zhì)上屬于流量經(jīng)濟(jì)的一種劣化表現(xiàn)，造謠的目的究其根本在于養(yǎng)號(hào)漲粉帶流量。當(dāng)這些號(hào)的關(guān)注度達(dá)到了一定程度后，就可能進(jìn)入開直播、帶貨的狀態(tài)。貼文中一旦出現(xiàn)熱門城市，流量就會(huì)有加成，所以很多謠言會(huì)選擇熱門城市作為“發(fā)生地”。

澎湃新聞：今年以來，上海公安機(jī)關(guān)打擊整治網(wǎng)絡(luò)謠言的情況如何？取得哪些成效？

符斌：上海公安按照“以打開路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級(jí)懲治涉謠賬號(hào)，嚴(yán)厲打擊“造熱點(diǎn)”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。截至目前，已破獲網(wǎng)絡(luò)水軍案件15起，抓獲38名違法犯罪嫌疑人。