“截屏造假”“張冠李戴”，正在成為一種低成本的、危害巨大的制造、傳播謠言的手段，值得高度警惕。尤其當網(wǎng)絡與現(xiàn)實生活高度契合，網(wǎng)民看到某些無權威來源信息后無法分辨真?zhèn)?，層層傳播后更將其推波助瀾。于是，一條條無中生有的信息經(jīng)過不法分子“包裝”后，偽裝成“熱點新聞”傳播，形成惡劣社會影響。

近年來，上海公安機關和市委網(wǎng)信辦協(xié)同聯(lián)動、綜合施策，形成“工作發(fā)現(xiàn)—通報核實—辟謠打擊”的網(wǎng)絡謠言治理閉環(huán)，累計約談“自媒體”賬號運營主體近百個，進行公開曝光警示，形成震懾。

2024年是打擊整治網(wǎng)絡謠言專項行動年，公安部部署全國公安機關開展為期一年的專項行動。截至11月26日，上海公安機關累計查處網(wǎng)絡謠言案件1464起，打掉“網(wǎng)絡水軍”團伙47個，清理網(wǎng)絡謠言信息57萬余條，關停違法賬號5.5萬余個，行政處罰相關單位63家。

打擊整治謠言專項行動期間，上海網(wǎng)安部門主動出擊，破獲多起“網(wǎng)絡造謠”類案件，入選市委網(wǎng)信辦組織征選的“清朗浦江·2024”網(wǎng)絡生態(tài)治理優(yōu)秀創(chuàng)新案例名單。

出于炫耀心理制造“向寺廟借款”的謠言

2024年7月2日，一張所謂“網(wǎng)易新聞”發(fā)布的主要內(nèi)容為“上海財政緊張 向寺廟借款100億”的文字圖片在各大網(wǎng)絡平臺快速傳播，引起網(wǎng)民廣泛關注，一度登上熱搜。

上海警方第一時間對該信息進行核查，在確認是謠言后，會同屬地公安機關對謠言發(fā)布者依法予以處罰，并同步協(xié)調(diào)本市媒體、具有一定影響力的本土網(wǎng)絡大V發(fā)布事件真相，快速、精準擊碎網(wǎng)絡謠言，還原事實。

經(jīng)查，犯罪嫌疑人孫某時常吹噓自己能夠得到“內(nèi)部消息”，以營造自己“消息靈通”以及“人脈寬廣”的人設。為了給自己的人設增加可信度，其使用圖片編輯軟件，將自己捕風捉影的信息與知名平臺的報頭拼接后發(fā)給他人，試圖證實自己消息來源的可靠性。

澎湃新聞（www.kxwhcb.com）記者注意到，相比以往“網(wǎng)絡水軍”犯罪團伙，“向寺廟借款”造謠者為個人，并且通報中未提及其有不法獲利。上海市公安局網(wǎng)安總隊告訴記者，不像“網(wǎng)絡水軍”有利可圖，“個人制造謠言的目的一般是出于炫耀心理，往往通過發(fā)布一些未經(jīng)證實的‘內(nèi)幕信息’彰顯自己的‘消息靈通’等”。

“從辦案角度來說，一些蹭社會熱點、有一定‘背景’、有細節(jié)描述的謠言容易引起社會關注。以‘向寺廟借款’案為例，從‘政府向寺廟借款’這樣極具話題性的角度，輔以‘財政局一位不愿透露姓名的工作人員’和嫁接‘網(wǎng)易’背景突出‘真實性’，并列舉了借款細節(jié)，進一步增加了謠言的‘真實性’?！本W(wǎng)安總隊表示。

AI生成的假消息具有哪些特點

除了個人造謠者，撰寫、發(fā)布不實帖文以從中牟利的“網(wǎng)絡水軍”也屢打不絕，其提供的“服務”也愈發(fā)多樣化和精細化。

近期，上海警方經(jīng)過縝密偵查，全鏈條搗毀一個“網(wǎng)絡水軍”犯罪團伙，抓獲犯罪嫌疑人11人，涉案金額達200余萬元。

澎湃新聞記者從上海市公安局獲悉，該團伙對外聲稱其業(yè)務為企業(yè)品牌形象優(yōu)化，實則提供處置虛假帖文信息服務（部分文章由AI生成）。其根據(jù)客戶要求，撰寫不實文章，交給外包公司在各大互聯(lián)網(wǎng)平臺予以發(fā)布，意圖稀釋負面輿情、下沉負面帖文，虛增指定產(chǎn)品的影響力、曝光度、好評度，擾亂正常市場秩序。

記者注意到，相比傳統(tǒng)的“網(wǎng)絡水軍”，該團伙使用了AI生成文章。AI生成的假消息該如何辨別，其又呈現(xiàn)出哪些特點？

網(wǎng)安總隊告訴記者，目前AI生成的假消息的主要特征是標題“吸睛”，帖文采用“三段論”。“為吸引網(wǎng)民點擊，網(wǎng)絡水軍通常使用‘標題黨’‘震驚體’作為標題開頭，如‘駭人聽聞’‘丟人現(xiàn)眼’等較為夸張的形容詞。在格式上，往往是‘三段式’文章，常常會出現(xiàn)文不對題，詞不達意的情況?！?/p>

上海警方牽頭組建“打謠聯(lián)盟”

互聯(lián)網(wǎng)作為社會公眾獲取信息的重要途徑之一，網(wǎng)絡信息的真實、可信是構建清朗網(wǎng)絡空間的基礎。面對紛繁復雜的網(wǎng)絡信息，受眾又該如何提高辨識能力？

網(wǎng)安總隊介紹，對于熱點事件，不法分子往往會在大眾關心的公共事件中添加細節(jié)、歪曲事實，“所以即使有圖有視頻的信息也不能輕易相信，希望廣大網(wǎng)友要保持理性，通過官方信息了解情況，辨別真?zhèn)??！?/p>

對于造謠引流、惡意評論、刷量控評、有償刪帖等“網(wǎng)絡水軍”，上海警方發(fā)起集群戰(zhàn)役，全力擠壓“網(wǎng)絡水軍”違法犯罪活動空間。

同時，上海警方督促指導各互聯(lián)網(wǎng)平臺嚴格落實信息安全管理主體責任，完善謠言發(fā)現(xiàn)、辟謠、處置全流程工作規(guī)范，對于已認定的網(wǎng)絡謠言立即處置，防止反復傳播；對于傳播較廣的無權威來源的信息，主動查證，爭取把新發(fā)謠言消滅在萌芽狀態(tài)。同時，健全網(wǎng)絡平臺實名制度，規(guī)范內(nèi)容發(fā)布的審核標準及流程，堅決整治惡意擺拍并炮制謠言等違法違規(guī)行為，從源頭降低網(wǎng)絡謠言傳播風險。

2024年以來，上海警方在大型互聯(lián)網(wǎng)企業(yè)建立網(wǎng)安警務室，幫助互聯(lián)網(wǎng)企業(yè)提升異常問題發(fā)現(xiàn)能力，提前化解處置各類風險隱患，為本市互聯(lián)網(wǎng)企業(yè)營造法治化營商環(huán)境；指導本市信息網(wǎng)絡安全管理協(xié)會，牽頭組建了覆蓋全市14家知名企業(yè)的“打謠聯(lián)盟”，發(fā)布主題為“拒絕網(wǎng)絡謠言，清朗網(wǎng)絡環(huán)境”的倡議書，有效形成協(xié)同治理合力，激發(fā)互聯(lián)網(wǎng)企業(yè)參與網(wǎng)絡治理的主動性。

面對五花八門的網(wǎng)絡信息，我們可能無法辨別真?zhèn)巍５辽傥覀兛梢宰龅讲煌撇ㄖ鸀?，“讓子彈飛一會兒”。