據《參考消息》網站25日援引美聯社23日報道，美國政府正在敦促科技行業和金融機構關閉越來越龐大的利用人工智能（AI）制作色情圖像的市場。

報道稱，新出現的生成式人工智能工具可以輕松將一個人的肖像轉換成色情圖像，便于這些逼真的深度偽造圖像在聊天室或者社交平臺上傳播。受害者無論是名人還是兒童，都幾乎沒有辦法阻止這種行為。

美聯社報道稱，白宮于23日發出呼吁，希望企業在立法不力的情況下自愿合作，承諾采取一系列具體措施制止有關犯罪行為。白宮官員表示，希望企業能夠遏制此類未經同意的人工智能圖像（包括兒童的露骨圖像）的制作、傳播以及獲利行為。

“隨著生成式人工智能的出現，每個人都在猜測第一個真正的危害會來自哪里。我認為我們已經找到了答案?！卑莸堑氖紫茖W顧問、白宮科技政策辦公室主任阿拉蒂·普拉巴卡 (Arati Prabhakar) 說。

一份由白宮授權發布的文件顯示，美國政府的呼吁對象不僅包括人工智能開發商，還有支付處理商、金融機構、云計算提供商、搜索引擎和控制移動應用商店內容的“互聯網看門人”——即蘋果和谷歌等決定手機軟件能否進入應用商店的公司。

生成式人工智能的蓬勃發展導致大量深度偽造的色情作品出現，受害者包括一線明星和普通公民。英國《衛報》報道稱，人工智能生成的未成年人圖像和深度偽造作品也在校園中流傳。在美國佛羅里達州，兩名中學生因利用AI制作同學裸照而被捕。目前，美國多個州已通過法律，禁止未經同意利用AI生成露骨圖片。美國司法部則表示，生成深度偽造的兒童色情圖像屬于違法行為。

另據英國《衛報》報道，兒童安全倡導者和人工智能研究人員警告稱，惡意使用生成式人工智能工具可能會導致偽造兒童性虐待案件的舉報材料激增。2023 年，美國國家失蹤與受虐兒童中心(NCMEC)收到的兒童虐待報告比上一年增加了約12%，部分原因是AI制作的偽造材料急劇增加。該機構表示，這可能將導致舉報熱線不堪重負。