·NewsGuard的團隊已識別出614個不可靠的人工智能生成的新聞和信息網站，涵蓋15種語言。其中一些網站每天會生成數百甚至數千篇文章。NewsGuard稱其為下一個大型的“錯誤信息超級傳播者”。

·創建這些網站的動機各不相同。有些是為了動搖政治信仰或造成嚴重破壞，還有一些網站大量生產兩極分化的內容來吸引點擊并獲取廣告收入。

跟蹤錯誤信息的組織NewsGuard 12月18日發布報告稱，自5月以來，托管人工智能創建的虛假文章的網站增加了1000%以上，從49個網站激增至600多個。

此前，宣傳活動一直依賴低薪工人大軍或高度協調的情報組織來建立看似合法的網站。但人工智能讓幾乎任何人，無論是間諜機構的一員還是地下室里的青少年都可以輕松創建這些媒體，制作有時很難與真實新聞區分開來的內容。

迄今為止，NewsGuard的團隊已識別出614個不可靠的人工智能生成的新聞和信息網站，標記為“UAINS”，涵蓋15種語言：阿拉伯語、中文、捷克語、荷蘭語、英語、法語、德語、印度尼西亞語、意大利語、韓語、葡萄牙語、西班牙語、他加祿語、泰語和土耳其語。

NewsGuard的一項調查發現，一篇由人工智能生成的文章講述了有關以色列總理本杰明·內塔尼亞胡精神科醫生的假故事，聲稱他已經去世，并留下一張紙條，暗示內塔尼亞胡參與其中。這位精神科醫生似乎是虛構的，但該說法出現在伊朗電視節目中，并在阿拉伯語、英語和印度尼西亞語媒體的網站上轉載，在社交平臺TikTok、Reddit和Instagram上被用戶傳播。

伊朗國營電視臺援引不可靠的人工智能生成的英文新聞網站GlobalVillageSpace.com來宣揚內塔尼亞胡的“精神科醫生”自殺的錯誤說法。圖片來源：NewsGuard

錯誤信息專家表示，這些網站的快速增長在2024年的各個選舉前夕尤其令人擔憂。“其中一些網站每天會生成數百甚至數千篇文章。”進行調查的NewsGuard研究員杰克·布魯斯特（Jack Brewster）對媒體表示，“這就是為什么我們稱其為下一個大型的錯誤信息超級傳播者。”

今年9月，斯洛伐克進步黨領袖米哈爾·西梅奇卡（Michal ?ime?ka）在選民投票前幾天發現，他的聲音被克隆，說出了他從未說過的有爭議的話。兩周后，英國工黨領袖似乎被錄下了在X（前身為Twitter）上斥責一名工作人員的充滿臟話的長篇大論的錄音。越來越多的網站，例如使用“iBusiness Day”或“愛爾蘭熱門新聞”等通用名稱發布假新聞，使其看起來很真實。

發布“內塔尼亞胡精神科醫生”文章的網站“地球村空間”也充滿著各種嚴肅話題的文章。有一些文章詳細介紹了美國對俄羅斯武器供應商的制裁，石油巨頭沙特阿美公司在巴基斯坦的投資。該網站還包含中東智庫專家、哈佛大學畢業的律師和該網站首席執行官、巴基斯坦電視新聞主播莫伊德·皮爾扎達（Moeed Pirzada）撰寫的文章。布魯斯特說，夾在這些普通故事中間的是人工智能生成的文章。

NewsGuard在調查期間聯系該組織后，“內塔尼亞胡精神科醫生”文章被重新標記為“諷刺”。NewsGuard表示，這個故事似乎是根據2010年6月發表的一篇諷刺文章改編的，該文章對一名以色列精神科醫生的死亡做出了類似的說法。

將真實新聞和人工智能生成的新聞放在一起，會讓欺騙性的故事更加可信。媒體和人工智能專家表示，類似“地球村空間”的網站可能會在2024年各種選舉期間激增，成為傳播錯誤信息的有效方式。

創建這些網站的動機各不相同。有些是為了動搖政治信仰或造成嚴重破壞。布魯斯特說，還有一些網站大量生產兩極分化的內容來吸引點擊并獲取廣告收入。但他補充說，增強虛假內容的能力是一個重大的安全風險。

“危險在于人工智能的范圍和規模……尤其是與更復雜的算法結合使用時。”美國辛辛那提大學錯誤信息專家兼新聞學教授杰弗里·布萊文斯（Jeffrey Blevins）對媒體表示，“這是一場我們從未見過的規模的信息戰。”

布萊文斯表示，人們應該留意文章中的線索、“危險信號”，例如“非常奇怪的語法”或句子結構中的錯誤。但最有效的工具是提高普通讀者的媒體素養。他補充說，監管基本上不存在，政府可能很難打擊假新聞內容，就把這個問題留給了社交媒體公司，但它們迄今為止做得并不好。而快速處理此類網站是不可行的，因為它們重新創建的速度也很快。“這很像玩打地鼠游戲。”他說。