“截屏造假”“張冠李戴”，正在成為一種低成本的、危害巨大的制造、傳播謠言的手段，值得高度警惕。尤其當(dāng)網(wǎng)絡(luò)與現(xiàn)實(shí)生活高度契合，網(wǎng)民看到某些無(wú)權(quán)威來(lái)源信息后無(wú)法分辨真?zhèn)?，層層傳播后更將其推波助瀾。于是，一條條無(wú)中生有的信息經(jīng)過(guò)不法分子“包裝”后，偽裝成“熱點(diǎn)新聞”傳播，形成惡劣社會(huì)影響。

近年來(lái)，上海公安機(jī)關(guān)和市委網(wǎng)信辦協(xié)同聯(lián)動(dòng)、綜合施策，形成“工作發(fā)現(xiàn)—通報(bào)核實(shí)—辟謠打擊”的網(wǎng)絡(luò)謠言治理閉環(huán)，累計(jì)約談“自媒體”賬號(hào)運(yùn)營(yíng)主體近百個(gè)，進(jìn)行公開(kāi)曝光警示，形成震懾。

2024年是打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)年，公安部部署全國(guó)公安機(jī)關(guān)開(kāi)展為期一年的專項(xiàng)行動(dòng)。截至11月26日，上海公安機(jī)關(guān)累計(jì)查處網(wǎng)絡(luò)謠言案件1464起，打掉“網(wǎng)絡(luò)水軍”團(tuán)伙47個(gè)，清理網(wǎng)絡(luò)謠言信息57萬(wàn)余條，關(guān)停違法賬號(hào)5.5萬(wàn)余個(gè)，行政處罰相關(guān)單位63家。

打擊整治謠言專項(xiàng)行動(dòng)期間，上海網(wǎng)安部門(mén)主動(dòng)出擊，破獲多起“網(wǎng)絡(luò)造謠”類案件，入選市委網(wǎng)信辦組織征選的“清朗浦江·2024”網(wǎng)絡(luò)生態(tài)治理優(yōu)秀創(chuàng)新案例名單。

出于炫耀心理制造“向寺廟借款”的謠言

2024年7月2日，一張所謂“網(wǎng)易新聞”發(fā)布的主要內(nèi)容為“上海財(cái)政緊張 向寺廟借款100億”的文字圖片在各大網(wǎng)絡(luò)平臺(tái)快速傳播，引起網(wǎng)民廣泛關(guān)注，一度登上熱搜。

上海警方第一時(shí)間對(duì)該信息進(jìn)行核查，在確認(rèn)是謠言后，會(huì)同屬地公安機(jī)關(guān)對(duì)謠言發(fā)布者依法予以處罰，并同步協(xié)調(diào)本市媒體、具有一定影響力的本土網(wǎng)絡(luò)大V發(fā)布事件真相，快速、精準(zhǔn)擊碎網(wǎng)絡(luò)謠言，還原事實(shí)。

經(jīng)查，犯罪嫌疑人孫某時(shí)常吹噓自己能夠得到“內(nèi)部消息”，以營(yíng)造自己“消息靈通”以及“人脈寬廣”的人設(shè)。為了給自己的人設(shè)增加可信度，其使用圖片編輯軟件，將自己捕風(fēng)捉影的信息與知名平臺(tái)的報(bào)頭拼接后發(fā)給他人，試圖證實(shí)自己消息來(lái)源的可靠性。

澎湃新聞（www.kxwhcb.com）記者注意到，相比以往“網(wǎng)絡(luò)水軍”犯罪團(tuán)伙，“向寺廟借款”造謠者為個(gè)人，并且通報(bào)中未提及其有不法獲利。上海市公安局網(wǎng)安總隊(duì)告訴記者，不像“網(wǎng)絡(luò)水軍”有利可圖，“個(gè)人制造謠言的目的一般是出于炫耀心理，往往通過(guò)發(fā)布一些未經(jīng)證實(shí)的‘內(nèi)幕信息’彰顯自己的‘消息靈通’等”。

“從辦案角度來(lái)說(shuō)，一些蹭社會(huì)熱點(diǎn)、有一定‘背景’、有細(xì)節(jié)描述的謠言容易引起社會(huì)關(guān)注。以‘向寺廟借款’案為例，從‘政府向寺廟借款’這樣極具話題性的角度，輔以‘財(cái)政局一位不愿透露姓名的工作人員’和嫁接‘網(wǎng)易’背景突出‘真實(shí)性’，并列舉了借款細(xì)節(jié)，進(jìn)一步增加了謠言的‘真實(shí)性’?！本W(wǎng)安總隊(duì)表示。

AI生成的假消息具有哪些特點(diǎn)

除了個(gè)人造謠者，撰寫(xiě)、發(fā)布不實(shí)帖文以從中牟利的“網(wǎng)絡(luò)水軍”也屢打不絕，其提供的“服務(wù)”也愈發(fā)多樣化和精細(xì)化。

近期，上海警方經(jīng)過(guò)縝密偵查，全鏈條搗毀一個(gè)“網(wǎng)絡(luò)水軍”犯罪團(tuán)伙，抓獲犯罪嫌疑人11人，涉案金額達(dá)200余萬(wàn)元。

澎湃新聞?dòng)浾邚纳虾Ｊ泄簿肢@悉，該團(tuán)伙對(duì)外聲稱其業(yè)務(wù)為企業(yè)品牌形象優(yōu)化，實(shí)則提供處置虛假帖文信息服務(wù)（部分文章由AI生成）。其根據(jù)客戶要求，撰寫(xiě)不實(shí)文章，交給外包公司在各大互聯(lián)網(wǎng)平臺(tái)予以發(fā)布，意圖稀釋負(fù)面輿情、下沉負(fù)面帖文，虛增指定產(chǎn)品的影響力、曝光度、好評(píng)度，擾亂正常市場(chǎng)秩序。

記者注意到，相比傳統(tǒng)的“網(wǎng)絡(luò)水軍”，該團(tuán)伙使用了AI生成文章。AI生成的假消息該如何辨別，其又呈現(xiàn)出哪些特點(diǎn)？

網(wǎng)安總隊(duì)告訴記者，目前AI生成的假消息的主要特征是標(biāo)題“吸睛”，帖文采用“三段論”?！盀槲W(wǎng)民點(diǎn)擊，網(wǎng)絡(luò)水軍通常使用‘標(biāo)題黨’‘震驚體’作為標(biāo)題開(kāi)頭，如‘駭人聽(tīng)聞’‘丟人現(xiàn)眼’等較為夸張的形容詞。在格式上，往往是‘三段式’文章，常常會(huì)出現(xiàn)文不對(duì)題，詞不達(dá)意的情況?！?/p>

上海警方牽頭組建“打謠聯(lián)盟”

互聯(lián)網(wǎng)作為社會(huì)公眾獲取信息的重要途徑之一，網(wǎng)絡(luò)信息的真實(shí)、可信是構(gòu)建清朗網(wǎng)絡(luò)空間的基礎(chǔ)。面對(duì)紛繁復(fù)雜的網(wǎng)絡(luò)信息，受眾又該如何提高辨識(shí)能力？

網(wǎng)安總隊(duì)介紹，對(duì)于熱點(diǎn)事件，不法分子往往會(huì)在大眾關(guān)心的公共事件中添加細(xì)節(jié)、歪曲事實(shí)，“所以即使有圖有視頻的信息也不能輕易相信，希望廣大網(wǎng)友要保持理性，通過(guò)官方信息了解情況，辨別真?zhèn)??！?/p>

對(duì)于造謠引流、惡意評(píng)論、刷量控評(píng)、有償刪帖等“網(wǎng)絡(luò)水軍”，上海警方發(fā)起集群戰(zhàn)役，全力擠壓“網(wǎng)絡(luò)水軍”違法犯罪活動(dòng)空間。

同時(shí)，上海警方督促指導(dǎo)各互聯(lián)網(wǎng)平臺(tái)嚴(yán)格落實(shí)信息安全管理主體責(zé)任，完善謠言發(fā)現(xiàn)、辟謠、處置全流程工作規(guī)范，對(duì)于已認(rèn)定的網(wǎng)絡(luò)謠言立即處置，防止反復(fù)傳播；對(duì)于傳播較廣的無(wú)權(quán)威來(lái)源的信息，主動(dòng)查證，爭(zhēng)取把新發(fā)謠言消滅在萌芽狀態(tài)。同時(shí)，健全網(wǎng)絡(luò)平臺(tái)實(shí)名制度，規(guī)范內(nèi)容發(fā)布的審核標(biāo)準(zhǔn)及流程，堅(jiān)決整治惡意擺拍并炮制謠言等違法違規(guī)行為，從源頭降低網(wǎng)絡(luò)謠言傳播風(fēng)險(xiǎn)。

2024年以來(lái)，上海警方在大型互聯(lián)網(wǎng)企業(yè)建立網(wǎng)安警務(wù)室，幫助互聯(lián)網(wǎng)企業(yè)提升異常問(wèn)題發(fā)現(xiàn)能力，提前化解處置各類風(fēng)險(xiǎn)隱患，為本市互聯(lián)網(wǎng)企業(yè)營(yíng)造法治化營(yíng)商環(huán)境；指導(dǎo)本市信息網(wǎng)絡(luò)安全管理協(xié)會(huì)，牽頭組建了覆蓋全市14家知名企業(yè)的“打謠聯(lián)盟”，發(fā)布主題為“拒絕網(wǎng)絡(luò)謠言，清朗網(wǎng)絡(luò)環(huán)境”的倡議書(shū)，有效形成協(xié)同治理合力，激發(fā)互聯(lián)網(wǎng)企業(yè)參與網(wǎng)絡(luò)治理的主動(dòng)性。

面對(duì)五花八門(mén)的網(wǎng)絡(luò)信息，我們可能無(wú)法辨別真?zhèn)?。但至少我們可以做到不推波助瀾，“讓子彈飛一會(huì)兒”。