海報設計 郁斐

近來發生多起AI換臉、換裝事件，引發公眾廣泛關注。其中，一網紅特效合成師洪某，將電視劇中和女明星有親密鏡頭的男主角用人工智能手段換成了自己的臉。相關圖片視頻在網絡上廣泛傳播，真假難辨，讓不少網友直呼難以接受。

如今，隨著AI技術的日益發達以及技術應用的大眾化，網絡虛假信息帶來嚴峻挑戰。以ChatGPT為代表的變革性AI新技術不僅可以模擬人類語言，還可以利用深度偽造技術（Deep Fake），強化偽造圖片、聲音、視頻的逼真性，催生場景化和沉浸式的互動，不僅可能擾亂大眾認知，還可被用來實施網絡欺詐，致使用戶利益受損，甚至危及公共安全。

事情皆有兩面。ChatGPT等新興AI技術可能加劇互聯網虛假信息的泛濫。同時，合理使用AI技術，也可促進網絡虛假信息的治理。

以ChatGPT為例，這一先進的自然語言處理技術（NLP）可以生成非常連貫、自然的對話，讓人類與計算機之間的交互更加智能，它也能自動生成逼真的虛假信息，應用于訓練AI模型，以提高其自動識別和檢測信息的能力。

此外，一些組織和個人還在探索使用ChatGPT自動監測虛假新聞發布和社交媒體發帖，并向用戶提供相關的背景信息，幫助他們做出更加明智的決策，避免受騙。當然也需要注意，ChatGPT等大語言模型的使用應得到有效監管，以符合道德和法律規范要求。

然而，僅依靠AI的力量，無法徹底解決網絡虛假信息傳播這一社會問題。“人機合作治理”成為時下的一個熱門話題。首先， AI作為信息處理工具，可以通過機器學習和自然語言處理等技術，對海量信息進行自動化辨識，快速、高效地識別和篩選出可能存在的虛假信息。

其次，人類作為信息消費者，可以對AI辨識出的可能存在虛假的信息進行審核和修正，以提高虛假信息檢測的準確率。在此基礎上，AI還可以根據用戶的興趣、偏好和歷史行為，提供個性化的反虛假信息推送，幫助用戶更加準確地獲取信息，降低其受虛假信息影響的可能性。

應當看到，在人機合作治理網絡虛假信息的過程中，居于主導地位的始終是“人”，而非依賴機器駕馭一切。個人作為AI技術專家、普通用戶和網絡社群成員，在不同維度上均對虛假信息治理發揮著關鍵作用。

作為AI技術專家的個人能夠通過技術和應用創新，開發用于檢測虛假信息的AI算法和模型。盡管人工智能在提取虛假信息方面具有可靠的洞察力，但依然需要分析師和數據專家的輔助，實現大數據、高等算力等的最佳配置，才能將計算結果轉化為可解釋、可操作的優質結論。也就是說，最精確的人工智能模型只有依靠人類自身的專業知識來訓練和強化才可能實現。同時，為減輕虛假信息病毒式傳播所造成的風險，需要人們主動實施反制措施，并對虛假信息文本進行多角度分析，這也只有通過“人類+人工智能”的路徑才能實現。

作為普通網絡用戶的個人可在治理網絡虛假信息的過程中發揮注意、負責和審慎的作用，注意信息的來源和真實性，不盲目相信和轉發未經證實的信息，而是負責任地分享，并主動學習和提高數字素養，以辨別信息的真實性和可靠性。

作為網絡社群成員，個人還需要發揮宣傳、監督和參與的作用，包括宣傳虛假信息的危害，引導社群同伴對信息的真實性和可靠性進行審慎評估，以及監督、舉報、標記和糾正網絡虛假信息，以進一步降低虛假信息的影響。

總體看來，網絡廣泛存在虛假及錯誤信息的原因很復雜，需要通過多種方法來應對，包括加強數字素養教育、改進社交媒體平臺的算法和推薦機制、加強信息審核和披露、強化法律和政策監管等。ChatGPT等新興AI技術必須要得到符合倫理與道德地使用，才能有助于治理網絡虛假和錯誤信息泛濫的問題。

在此過程中，個人的積極作為不容小覷。通過關注可靠信息、投身技術創新、參與社區治理、提高數字素養、有效開展人機合作等方式，“人”依然是人工智能時代信息正本清源的關鍵所在。

--------

城市因集聚而誕生。

一座城市的公共政策、人居環境、習俗風氣塑造了市民生活的底色。

澎湃城市觀察，聚焦公共政策，回應大眾關切，探討城市議題。