·一些政治競(jìng)選活動(dòng)開始使用AI生成的籌款郵件和宣傳圖像，這種現(xiàn)象幾個(gè)月前還只是緩慢滲透，而現(xiàn)在已經(jīng)匯聚成巨大洪流，開始改寫全球民主選舉的游戲規(guī)則。

·人工智能可能會(huì)加速對(duì)媒體、政府和社會(huì)信任的侵蝕，加深偏見和擴(kuò)大黨派分歧，使選民更深地陷入兩極分化的信息泡沫中。建立新的護(hù)欄是當(dāng)務(wù)之急。

多倫多市長(zhǎng)選舉中，保守派候選人安東尼·弗瑞（Anthony Furey）用人工智能生成的圖像作為競(jìng)選材料，其中一幅圖像展示了一條城市街道，街道兩旁的人似乎是在建筑物旁露營(yíng)的流浪者。

人工智能（AI）技術(shù)已經(jīng)逐步參與政治競(jìng)選的一些環(huán)節(jié)。隨著2024年美國(guó)總統(tǒng)大選的臨近，AI技術(shù)在政治競(jìng)選中的應(yīng)用越來(lái)越廣泛，一些競(jìng)選活動(dòng)利用AI生成的虛假圖像、視頻和文本來(lái)誤導(dǎo)選民，加深偏見，破壞公平競(jìng)爭(zhēng)。目前，美國(guó)缺乏有效的法律和監(jiān)管來(lái)應(yīng)對(duì)這一挑戰(zhàn)。競(jìng)選規(guī)則的空白，給關(guān)乎美國(guó)甚至全球政治的總統(tǒng)大選帶來(lái)巨大變數(shù)。

專家擔(dān)心，這項(xiàng)技術(shù)可能會(huì)加速對(duì)媒體、政府和社會(huì)信任的侵蝕。一段假視頻、一段充斥著虛假故事的電子郵件，或者一幅偽造的城市衰敗景象圖片都可能通過向選民展示他們期望看到的東西，擴(kuò)大黨派分歧。人們可能更深地陷入兩極分化的信息泡沫中，只相信他們選擇相信的來(lái)源。這與導(dǎo)致特朗普上臺(tái)的2016年美國(guó)大選的狀況相似。

從緩慢滲透到巨大洪流

2024年的美國(guó)總統(tǒng)選舉將是生成式AI廣泛影響人類以來(lái)的首次美國(guó)大選。據(jù)《紐約時(shí)報(bào)》6月25日?qǐng)?bào)道，一些政治競(jìng)選活動(dòng)開始使用AI生成的籌款郵件和宣傳圖像，這種現(xiàn)象幾個(gè)月前還只是緩慢滲透，而現(xiàn)在已經(jīng)匯聚成巨大洪流，開始改寫全球民主選舉的游戲規(guī)則。

例如，美國(guó)共和黨全國(guó)委員會(huì)在總統(tǒng)拜登宣布競(jìng)選連任后公布了一段視頻，其中人工智能合成的圖像展示了拜登連任后的世界末日景象；佛羅里達(dá)州州長(zhǎng)羅恩·德桑蒂斯（Ron DeSantis）利用AI合成圖像在社交平臺(tái)發(fā)布了前總統(tǒng)特朗普和前衛(wèi)生官員安東尼·福奇博士親密擁抱的虛假照片；民主黨在春季嘗試了由AI起草的籌款信息，并發(fā)現(xiàn)它們往往比完全由人類撰寫的文案更能鼓勵(lì)選民參與和捐款；4月，芝加哥市長(zhǎng)選舉中的一名候選人抱怨稱，一個(gè)偽裝成新聞媒體的Twitter賬戶使用了人工智能，以一種暗示他寬恕警察暴行的方式克隆他的聲音。

一些政客認(rèn)為AI技術(shù)能夠幫助降低競(jìng)選成本。比如，可以使用它對(duì)辯論問題或攻擊性廣告做出即時(shí)回應(yīng)，或者分析原本需要昂貴專家分析的一些數(shù)據(jù)。

在6月26日舉行的多倫多市長(zhǎng)選舉中，保守派候選人安東尼·弗瑞（Anthony Furey）用人工智能生成的圖像作為競(jìng)選材料，其中一幅圖像展示了一條城市街道，街道兩旁的人似乎是在建筑物旁露營(yíng)的流浪者，但仔細(xì)觀察前景會(huì)發(fā)現(xiàn)有人看起來(lái)更像是渲染而成的；另一張照片中有兩個(gè)人似乎在進(jìn)行重要的討論，而左邊的人有三只胳膊。盡管遭到了其競(jìng)爭(zhēng)對(duì)手的攻擊，但這些合成圖片提升了弗瑞的影響力，使他在有101名候選人的市長(zhǎng)選舉中脫穎而出。

多倫多市長(zhǎng)選舉保守派候選人安東尼·弗瑞用人工智能生成的競(jìng)選材料中，左邊的人有三只胳膊。

喬治城大學(xué)安全與新興技術(shù)中心的研究員喬什·A·戈?duì)柎奶梗↗osh A. Goldstein）在一封電子郵件中寫道，“健康的懷疑態(tài)度會(huì)鼓勵(lì)良好的習(xí)慣（比如橫向閱讀和尋找可靠的來(lái)源），而這項(xiàng)技術(shù)可能促使人們從健康的懷疑態(tài)度轉(zhuǎn)向不健康的懷疑態(tài)度，讓人們認(rèn)為自己不可能知道什么是真實(shí)的。”

AI如何影響2024年美國(guó)大選

美國(guó)政治顧問協(xié)會(huì)最近譴責(zé)在政治競(jìng)選中使用深度造假的內(nèi)容違反了道德準(zhǔn)則。該團(tuán)體主席拉里·休恩（Larry Huynh）說(shuō)：“人們會(huì)忍不住去挑戰(zhàn)極限，看看他們能把事情做到什么程度。就像任何工具一樣，它們可能會(huì)被用于不良用途或行為，來(lái)欺騙選民、誤導(dǎo)選民、讓選民相信不存在的東西。”

“如果有人能制造噪音，制造不確定性或制造虛假敘事，那可能會(huì)是一種影響選民和贏得競(jìng)選的有效方式。”布魯金斯學(xué)會(huì)高級(jí)研究員達(dá)雷爾·M·韋斯特（Darrell M. West）今年5月在一篇報(bào)告中寫道，“由于2024年總統(tǒng)選舉可能取決于少數(shù)幾個(gè)州的數(shù)萬(wàn)名選民，任何能夠讓人們朝一個(gè)方向或另一個(gè)方向傾斜的東西都可能最終成為決定性的因素。”

這篇題為《人工智能將如何改變2024年的選舉》的報(bào)告提出了3個(gè)方面的問題。首先，政客可以使用生成式AI來(lái)立即響應(yīng)競(jìng)選活動(dòng)的發(fā)展。在未來(lái)一年，響應(yīng)時(shí)間可能會(huì)減少到以分鐘計(jì)，而不是幾小時(shí)或幾天。AI可以掃描互聯(lián)網(wǎng)，思考策略，并提出一個(gè)強(qiáng)有力的呼吁，這可能是一個(gè)演講、新聞稿、圖片、笑話或視頻，吹捧一個(gè)候選人優(yōu)于另一個(gè)候選人的好處。

其次，人工智能可以非常精確地定位受眾。候選人不想把錢浪費(fèi)在那些已經(jīng)支持或反對(duì)他們的選民身上，而是希望瞄準(zhǔn)少數(shù)搖擺不定的選民。由于美國(guó)的政治兩極分化率很高，只有一小部分選民表示猶豫不決。公共影響中心曾發(fā)布一份報(bào)告，指出2016年美國(guó)大選時(shí)，劍橋分析公司的數(shù)據(jù)如何被用來(lái)根據(jù)社交媒體用戶的“個(gè)人心理”發(fā)送有針對(duì)性的廣告。報(bào)告稱：“這種方法的問題不在于技術(shù)本身，而在于競(jìng)選活動(dòng)的隱蔽性及其政治信息的公然不誠(chéng)實(shí)。根據(jù)對(duì)不同論點(diǎn)的敏感性的預(yù)測(cè)，不同的選民收到了不同的信息。”

此外，人工智能可能會(huì)為有興趣推廣其首選候選人的普通人提供工具，從而使虛假信息民主化。人們不再需要是程序員或視頻專業(yè)人員來(lái)生成文本、圖像、視頻或程序，任何人都可以成為政治內(nèi)容創(chuàng)作者，并尋求動(dòng)搖選民或媒體。新技術(shù)還能使人將不滿情緒貨幣化，并從其他人的恐懼、焦慮或憤怒中賺錢。

目前，人工智能技術(shù)已經(jīng)比以前強(qiáng)大得多，雖然不完美，但改進(jìn)速度快且易于學(xué)習(xí)。今年5月，OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）在聽證會(huì)上告訴參議院小組委員會(huì)，他十分擔(dān)心2024年總統(tǒng)大選，這項(xiàng)技術(shù)“操縱、說(shuō)服、提供一種一對(duì)一的互動(dòng)虛假信息”的能力，是“一個(gè)值得關(guān)注的重要領(lǐng)域。”

推動(dòng)建立新的“護(hù)欄”

然而，隨著越來(lái)越復(fù)雜的AI生成內(nèi)容頻繁出現(xiàn)在社交網(wǎng)絡(luò)上，這些社交網(wǎng)絡(luò)平臺(tái)大多卻不愿意或無(wú)法對(duì)其進(jìn)行監(jiān)管。提供人工智能生成內(nèi)容檢測(cè)服務(wù)的Reality Defender公司首席執(zhí)行官本·科爾曼（Ben Colman）說(shuō)，監(jiān)管空白使得未標(biāo)記的AI生成內(nèi)容在被解決之前就造成了“不可逆轉(zhuǎn)的損害”。

“對(duì)于已經(jīng)看到并分享了假內(nèi)容的數(shù)百萬(wàn)用戶來(lái)說(shuō)，在事后解釋這些內(nèi)容是假的，不僅為時(shí)已晚而且效果甚微。”科爾曼補(bǔ)充道。

許多政治顧問、選舉研究人員和議員表示，建立新的護(hù)欄（guardrails）是當(dāng)務(wù)之急，比如制定法律來(lái)管制人工合成廣告。現(xiàn)有的防范措施，如社交媒體規(guī)則和聲稱能檢測(cè)人工智能內(nèi)容的服務(wù)，都未能有效地遏制這股浪潮。

來(lái)自紐約的民主黨眾議員伊維特·D·克拉克（Yvette D. Clarke）上個(gè)月在一份聲明中說(shuō)，2024年的選舉周期“將是第一次AI生成內(nèi)容盛行的選舉”。她和明尼蘇達(dá)州參議員艾米·克洛布查爾（Amy Klobuchar）等國(guó)會(huì)民主黨人已經(jīng)提出立法，要求政治廣告披露其使用人工智能生成的內(nèi)容。華盛頓州最近也有一項(xiàng)類似的法案被簽署成為法律。