·一些政治競選活動開始使用AI生成的籌款郵件和宣傳圖像，這種現(xiàn)象幾個月前還只是緩慢滲透，而現(xiàn)在已經(jīng)匯聚成巨大洪流，開始改寫全球民主選舉的游戲規(guī)則。

·人工智能可能會加速對媒體、政府和社會信任的侵蝕，加深偏見和擴大黨派分歧，使選民更深地陷入兩極分化的信息泡沫中。建立新的護欄是當務之急。

多倫多市長選舉中，保守派候選人安東尼·弗瑞（Anthony Furey）用人工智能生成的圖像作為競選材料，其中一幅圖像展示了一條城市街道，街道兩旁的人似乎是在建筑物旁露營的流浪者。

人工智能（AI）技術已經(jīng)逐步參與政治競選的一些環(huán)節(jié)。隨著2024年美國總統(tǒng)大選的臨近，AI技術在政治競選中的應用越來越廣泛，一些競選活動利用AI生成的虛假圖像、視頻和文本來誤導選民，加深偏見，破壞公平競爭。目前，美國缺乏有效的法律和監(jiān)管來應對這一挑戰(zhàn)。競選規(guī)則的空白，給關乎美國甚至全球政治的總統(tǒng)大選帶來巨大變數(shù)。

專家擔心，這項技術可能會加速對媒體、政府和社會信任的侵蝕。一段假視頻、一段充斥著虛假故事的電子郵件，或者一幅偽造的城市衰敗景象圖片都可能通過向選民展示他們期望看到的東西，擴大黨派分歧。人們可能更深地陷入兩極分化的信息泡沫中，只相信他們選擇相信的來源。這與導致特朗普上臺的2016年美國大選的狀況相似。

從緩慢滲透到巨大洪流

2024年的美國總統(tǒng)選舉將是生成式AI廣泛影響人類以來的首次美國大選。據(jù)《紐約時報》6月25日報道，一些政治競選活動開始使用AI生成的籌款郵件和宣傳圖像，這種現(xiàn)象幾個月前還只是緩慢滲透，而現(xiàn)在已經(jīng)匯聚成巨大洪流，開始改寫全球民主選舉的游戲規(guī)則。

例如，美國共和黨全國委員會在總統(tǒng)拜登宣布競選連任后公布了一段視頻，其中人工智能合成的圖像展示了拜登連任后的世界末日景象；佛羅里達州州長羅恩·德桑蒂斯（Ron DeSantis）利用AI合成圖像在社交平臺發(fā)布了前總統(tǒng)特朗普和前衛(wèi)生官員安東尼·福奇博士親密擁抱的虛假照片；民主黨在春季嘗試了由AI起草的籌款信息，并發(fā)現(xiàn)它們往往比完全由人類撰寫的文案更能鼓勵選民參與和捐款；4月，芝加哥市長選舉中的一名候選人抱怨稱，一個偽裝成新聞媒體的Twitter賬戶使用了人工智能，以一種暗示他寬恕警察暴行的方式克隆他的聲音。

一些政客認為AI技術能夠幫助降低競選成本。比如，可以使用它對辯論問題或攻擊性廣告做出即時回應，或者分析原本需要昂貴專家分析的一些數(shù)據(jù)。

在6月26日舉行的多倫多市長選舉中，保守派候選人安東尼·弗瑞（Anthony Furey）用人工智能生成的圖像作為競選材料，其中一幅圖像展示了一條城市街道，街道兩旁的人似乎是在建筑物旁露營的流浪者，但仔細觀察前景會發(fā)現(xiàn)有人看起來更像是渲染而成的；另一張照片中有兩個人似乎在進行重要的討論，而左邊的人有三只胳膊。盡管遭到了其競爭對手的攻擊，但這些合成圖片提升了弗瑞的影響力，使他在有101名候選人的市長選舉中脫穎而出。

多倫多市長選舉保守派候選人安東尼·弗瑞用人工智能生成的競選材料中，左邊的人有三只胳膊。

喬治城大學安全與新興技術中心的研究員喬什·A·戈爾茨坦（Josh A. Goldstein）在一封電子郵件中寫道，“健康的懷疑態(tài)度會鼓勵良好的習慣（比如橫向閱讀和尋找可靠的來源），而這項技術可能促使人們從健康的懷疑態(tài)度轉(zhuǎn)向不健康的懷疑態(tài)度，讓人們認為自己不可能知道什么是真實的。”

AI如何影響2024年美國大選

美國政治顧問協(xié)會最近譴責在政治競選中使用深度造假的內(nèi)容違反了道德準則。該團體主席拉里·休恩（Larry Huynh）說：“人們會忍不住去挑戰(zhàn)極限，看看他們能把事情做到什么程度。就像任何工具一樣，它們可能會被用于不良用途或行為，來欺騙選民、誤導選民、讓選民相信不存在的東西?！?/p>

“如果有人能制造噪音，制造不確定性或制造虛假敘事，那可能會是一種影響選民和贏得競選的有效方式?！辈剪斀鹚箤W會高級研究員達雷爾·M·韋斯特（Darrell M. West）今年5月在一篇報告中寫道，“由于2024年總統(tǒng)選舉可能取決于少數(shù)幾個州的數(shù)萬名選民，任何能夠讓人們朝一個方向或另一個方向傾斜的東西都可能最終成為決定性的因素?！?/p>

這篇題為《人工智能將如何改變2024年的選舉》的報告提出了3個方面的問題。首先，政客可以使用生成式AI來立即響應競選活動的發(fā)展。在未來一年，響應時間可能會減少到以分鐘計，而不是幾小時或幾天。AI可以掃描互聯(lián)網(wǎng)，思考策略，并提出一個強有力的呼吁，這可能是一個演講、新聞稿、圖片、笑話或視頻，吹捧一個候選人優(yōu)于另一個候選人的好處。

其次，人工智能可以非常精確地定位受眾。候選人不想把錢浪費在那些已經(jīng)支持或反對他們的選民身上，而是希望瞄準少數(shù)搖擺不定的選民。由于美國的政治兩極分化率很高，只有一小部分選民表示猶豫不決。公共影響中心曾發(fā)布一份報告，指出2016年美國大選時，劍橋分析公司的數(shù)據(jù)如何被用來根據(jù)社交媒體用戶的“個人心理”發(fā)送有針對性的廣告。報告稱：“這種方法的問題不在于技術本身，而在于競選活動的隱蔽性及其政治信息的公然不誠實。根據(jù)對不同論點的敏感性的預測，不同的選民收到了不同的信息。”

此外，人工智能可能會為有興趣推廣其首選候選人的普通人提供工具，從而使虛假信息民主化。人們不再需要是程序員或視頻專業(yè)人員來生成文本、圖像、視頻或程序，任何人都可以成為政治內(nèi)容創(chuàng)作者，并尋求動搖選民或媒體。新技術還能使人將不滿情緒貨幣化，并從其他人的恐懼、焦慮或憤怒中賺錢。

目前，人工智能技術已經(jīng)比以前強大得多，雖然不完美，但改進速度快且易于學習。今年5月，OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）在聽證會上告訴參議院小組委員會，他十分擔心2024年總統(tǒng)大選，這項技術“操縱、說服、提供一種一對一的互動虛假信息”的能力，是“一個值得關注的重要領域?！?/p>

推動建立新的“護欄”

然而，隨著越來越復雜的AI生成內(nèi)容頻繁出現(xiàn)在社交網(wǎng)絡上，這些社交網(wǎng)絡平臺大多卻不愿意或無法對其進行監(jiān)管。提供人工智能生成內(nèi)容檢測服務的Reality Defender公司首席執(zhí)行官本·科爾曼（Ben Colman）說，監(jiān)管空白使得未標記的AI生成內(nèi)容在被解決之前就造成了“不可逆轉(zhuǎn)的損害”。

“對于已經(jīng)看到并分享了假內(nèi)容的數(shù)百萬用戶來說，在事后解釋這些內(nèi)容是假的，不僅為時已晚而且效果甚微?！笨茽柭a充道。

許多政治顧問、選舉研究人員和議員表示，建立新的護欄（guardrails）是當務之急，比如制定法律來管制人工合成廣告?，F(xiàn)有的防范措施，如社交媒體規(guī)則和聲稱能檢測人工智能內(nèi)容的服務，都未能有效地遏制這股浪潮。

來自紐約的民主黨眾議員伊維特·D·克拉克（Yvette D. Clarke）上個月在一份聲明中說，2024年的選舉周期“將是第一次AI生成內(nèi)容盛行的選舉”。她和明尼蘇達州參議員艾米·克洛布查爾（Amy Klobuchar）等國會民主黨人已經(jīng)提出立法，要求政治廣告披露其使用人工智能生成的內(nèi)容。華盛頓州最近也有一項類似的法案被簽署成為法律。