原創 以殷 果殼

當長輩在家族群中發“無籽葡萄是避孕藥泡過的”謠言推送時，我顫巍巍地把果殼的科普甩進群里，等待長輩的諄諄教誨。但為什么年輕人給老一輩科普還要背上“大不敬”的罪名？如果社交媒體能直接搭載AI識別謠言，只要長輩一發“千滾水不能喝”之類的東西，AI就自動警鈴大作，在長輩的手機屏幕上彈出“此條消息是謠言”的警告，豈不美哉！

查證來源是識別謠言的好方法丨Giphy

AI在線查謠言，仍需人類來主攻

其實AI識別謠言并不新鮮。去年，阿里巴巴達摩院的科學家就造了個AI謠言粉碎機，據稱謠言識別準確率達81%。阿里開發的AI用的是自然語言處理技術，分三步來判斷謠言。

1. AI會找到內容最初的信息源，并分析用戶畫像。比如用戶發表了“韭菜和牛奶相克”的內容，那TA的專業領域是不是醫學或者營養學呢？

2. 尋找網上所有的信息源，看內容鏈接的域名是不是來自可信的網站，比如政府官網或者可信賴的媒體。

3. 將正文里關鍵的論證提煉為知識點，與知識圖譜里的權威知識庫做匹配驗證。如果毫無聯系、自相矛盾，就會減分。

在社交媒體時代，每個互聯網用戶都是內容生產者，謠言治理是個全球性的難題，除了國內的阿里、今日頭條等在AI識別謠言上做出努力之外，國外的臉書、推特等社交媒體為打擊假新聞，也搭載了AI來識別謠言。這次美國大選，推特更是嚴陣以待，利用AI和人工審核，把選舉有關的不實內容都打上標記——特朗普的近百條推文就被標記為“不實消息”。

被打上不實消息的推文丨Twitter：@realDonaldTrump

盡管很多人對AI識別謠言寄予厚望，但實際上，現在AI的能力還沒想象中的那么強。目前謠言識別仍然依賴人工核查，AI處于補充地位，主要在識別簡單重復的虛假內容、假新聞網址和機器人賬號上發揮作用。在新冠疫情期間，為對付滿天飛的新冠謠言，臉書和全世界60多個事實核查組織合作，先來標記虛假新聞，然后當用戶分享假新聞時，AI就能檢測到這些內容。到今年4月份，大約有5000萬條與新冠疫情相關的虛假內容被打上了“警告”標簽。

為什么現階段在識別謠言上，AI還拼不過人工呢？一些專家認為，AI無法單獨勝任謠言識別的工作。盡管AI可以提取某些事實并進行粗略的情感分析，但它無法完全理解人類的寫作方式，對文字的語境和語調帶來的細微差別束手無策，也沒辦法自己打電話去求證核實。現在網上沖浪選手喜歡“陰陽怪氣”的諷刺表達，除非AI變成人類老油條，不然很難摸清人類寫作的真實目的。

“人類，你在說啥？”丨Pexels

打造謊言照妖鏡:

故事聽起來很脫節？很可能是謠言

除了高頻率碰到的健康養生類謠言，新冠疫情期間的種種陰謀論也甚囂塵上。盡管科學家不斷發聲辟謠，但“新冠病毒是實驗室制造的”等陰謀論依然大有受眾，發達的社交媒體更是陰謀論萌發和傳播的溫床。為了識破陰謀論并將它扼殺在搖籃里，加州大學的文化分析小組也嘗試，訓練AI來識別謠言和陰謀論的基本特征與內容框架，以便“按圖索驥”，謠言一露頭就加以控制。

在研究中，研究人員以“披薩門”（pizzagate）和“封橋門”（bridgegate）為例，展示了AI識破陰謀論的原理。

“披薩門”是已被證實的陰謀論，發生在2016年美國大選期間。當時的民主黨總統候選人希拉里被指卷入了一個兒童色情團伙，這個團伙在華盛頓特區的大本營是一家披薩餐廳，甚至有一個“披薩門”的擁護者持步槍在該餐廳里開槍，所幸無人員傷亡。而“封橋門”則是一個真實的政治丑聞，2013年，新澤西州長的親信向政敵進行政治報復，關閉華盛頓大橋的兩條通道造成交通擁堵。

披薩門中提及的披薩店丨Wikimedia Commons

研究者開發的AI先從一些論壇上扒下討論“披薩門”和“封橋門”的帖子，并識別帖子中的人物、地點和事物等元素。當AI提取數據的時候，會把這些故事元素當作節點，并把相關的節點聯系在一起，形成一個體系。在比較過程中，研究者就發現了兩個明顯的陰謀論特征。

首先是完整故事圖譜的形成速度。封橋門的故事圖譜因為牽扯的元素過多，從2013年到2020年不斷發展豐富，花了將近六年才得以完整描述，而披薩門的故事圖譜在一個月內就基本穩定成型了。

第二個特征則是故事的“堅固”程度。因為陰謀論者都很喜歡“透過現象看本質”，發現世界的隱藏聯系，這就導致故事本身非常容易脫節。披薩門的故事內容是非常松散的，故事圖譜的主要元素偏少，聯系也比較微弱，如果把關鍵的元素去掉，整個故事就分崩離析，分解成政治、餐飲、撒旦主義等不太相干的領域。而對于真實事件封橋門來說，因為元素過多，聯系緊密，即使刪除了丑聞中的關鍵人物和關系，也能形成一個單一的、相聯系的網絡，并聚焦于新澤西州的政治問題，故事本身依然成立。

上圖為封橋門，聯系緊密；下圖為披薩門，結構松散丨

https://doi.org/10.1371/journal.pone.0233879

通過這些特征，AI不需要全面收集數據就能近乎實時識破陰謀論，不過加州大學這個“陰謀論識別模型”依舊在完善之中，研究人員不斷地將新冠疫情期間流行的陰謀論和針對反疫苗接種運動的謠言“投喂”給它，希望這個識別模型能夠早日完成，并基于它開發一個跟蹤陰謀論出現和發展的預警系統，提醒網友注意新冒出來的陰謀論。

人類聯手AI對抗謠言已經是一個趨勢，不過在等待AI變得更“聰明”、扼殺更多謠言之前，提高自身的科學素養和信息甄別能力才是更重要的。

參考文獻

[1] Tangherlini, T. R., Shahsavari, S., Shahbazi, B., Ebrahimzadeh, E., & Roychowdhury, V. (2020). An automated pipeline for the discovery of conspiracy and conspiracy theory narrative frameworks: Bridgegate, Pizzagate and storytelling on the web. PloS one, 15(6), e0233879.

[2]https://theconversation.com/an-ai-tool-can-distinguish-between-a-conspiracy-theory-and-a-true-conspiracy-it-comes-down-to-how-easily-the-story-falls-apart-146282

[3]https://www.theguardian.com/technology/2020/nov/11/how-2020-transformed-big-tech-the-story-of-facebook-qanon-and-the-worlds-slackening-grip-on-reality

[4]https://en.wikipedia.org/wiki/Fort_Lee_lane_closure_scandal

[5]https://en.wikipedia.org/wiki/Pizzagate_conspiracy_theory

[6]http://www.xinhuanet.com/local/2019-03/01/c_1124178146.htm

[7]https://www.theverge.com/2018/4/5/17202886/facebook-fake-news-moderation-ai-challenges

[8]https://ai.facebook.com/blog/using-ai-to-detect-covid-19-misinformation-and-exploitative-content/

作者：以殷

原標題：《小道消息漫天飛，辟謠還得靠AI？》

閱讀原文