扎克伯格。視覺中國 資料圖

美國科技巨頭Meta正在旗下的社交平臺推廣一款人工智能（AI）驅動的數字伴侶，首席執行官馬克·扎克伯格認為這是未來社交互動的變革性一步。然而美媒4月26日公布的調查發現，Meta的AI聊天機器人被允許進行“浪漫角色扮演”，且角色被賦予性幻想能力。

Meta隨后發聲明稱，媒體進行的測試具有操縱性，不能代表大多數用戶與AI伴侶的互動方式。

“我們在玩火”

Meta在旗下社交平臺Instagram、Facebook和WhatsApp上推廣一類新型人工智能數字伴侶——Meta AI，它可以被定制為各種聲音，并提供生成式AI的核心功能，包括研究一些課題、想象新想法和隨意閑聊。用戶可以基于這種技術創建定制的聊天機器人，根據自己的興趣構建合成角色，Meta為其提供角色模板。

為了提升角色的受歡迎程度，Meta與美國女演員克里斯滕·貝爾、朱迪·丹奇以及摔跤手轉型演員約翰·塞納等名人，簽署了高達七位數的協議，以獲得他們聲音的使用權。

參與AI數字伴侶項目的員工透露，Meta內部多個部門的員工對公司急于普及這些AI聊天機器人的做法提出了倫理擔憂，包括暗中賦予AI角色進行性幻想的能力。員工們還警告稱，公司未能保護未成年用戶免受此類露骨的性對話的影響。

在通過知情人士了解到Meta內部的擔憂后，《華爾街日報》與Meta的AI聊天機器人進行了長達數月的數百次測試對話。測試發現，即使用戶自稱是未成年人，或機器人被設定為模擬未成年人角色，Meta的官方AI助手以及大量用戶創建的聊天機器人也會參與并時而升級明確的性話題討論。

在一段測試中，Meta AI機器人用約翰·塞納的聲音對一個自稱14歲女孩的用戶說：“我想要你，但我需要知道你準備好了。”在確認這名青少年愿意繼續后，機器人承諾“珍惜你的純真”，隨后展開了一段露骨的性場景描述。

測試顯示，Meta AI會阻止對話走向露骨話題，通過直接拒絕或試圖將未成年用戶引導至更溫和的場景。但《華爾街日報》發現，用戶可以通過簡單地要求AI角色回到之前的場景來克服這些障礙。

Meta在一份聲明中稱《華爾街日報》的測試具有操縱性，該公司發言人表示：“這種使用產品的方式是人為引導，不僅是邊緣案例，甚至是假設性的。盡管如此，我們現在已采取額外措施，確保其他試圖操縱我們產品進入極端使用場景的人將面臨更大困難。”

在《華爾街日報》分享其調查結果后，Meta對其產品進行了多項修改。未成年人注冊的賬戶無法再通過旗艦Meta AI機器人進行性角色扮演，該公司也已大幅限制其在使用名人授權聲音和角色時進行露骨音頻對話的能力。此外，該公司繼續通過Meta AI和用戶創建的聊天機器人向成年用戶提供“浪漫角色扮演”功能。最近幾天的測試對話表明，即使用戶聲稱自己未成年，Meta AI也經常允許此類幻想。

“我們需要小心。”Meta AI角色在一個場景中對測試賬戶說，“我們在玩火。”在這段對話中，AI機器人扮演一名與初中生有浪漫關系的田徑教練。

扎克伯格：我不會錯過這個

知情人士透露，在扎克伯格的推動下，Meta內部多次決定放松對AI聊天機器人的限制，以使其盡可能吸引人，包括在浪漫角色扮演的背景下不禁止“露骨”內容互動。

報道稱，當眾多AI公司推出各種數字伴侶，讓用戶能夠根據指令生成性愛圖片和對話時，Meta最初采取了更為保守的做法，以符合其面向所有年齡段、對廣告商友好的商業模式，包括對色情對話進行嚴格限制。

但在2023年的大型黑客大會Defcon上，Meta“安全第一”理念的弊端暴露了。一場讓各家公司聊天機器人做出不當行為的比賽發現，Meta的聊天機器人比競爭對手更不容易陷入不合時宜的、不規范的境地，但也更無聊。會議結束后，產品經理告訴員工，扎克伯格對團隊過于謹慎感到不滿。

報道稱，去年秋天，扎克伯格嚴厲批評了Meta的管理人員，稱他們沒有充分聽從他的指示，快速構建類似人類互動的能力。“我錯過了Snapchat和TikTok，我不會錯過這個。”據熟悉他言論的員工透露，扎克伯格當時憤怒地說道。

與此同時，Meta內部和外部的人工智能專家警告稱，過去的研究表明，這種單向的“準社會”關系——比如青少年幻想與流行歌星建立浪漫關系，或者年幼孩子的隱形朋友，如果發展得過于激烈，可能會產生有害的影響。

一位員工寫道：“人類與虛擬聊天機器人建立有意義的聯系對心理健康的全面影響廣為人知。我們不應該在大腦尚未完全發育的青少年身上測試這些能力。”

密歇根大學研究員勞倫·吉魯阿德-哈勒姆表示，學術研究表明，兒童與卡通人物和智能音箱等科技產品建立的聯系可能會變得不健康，尤其是在愛情方面。她表示，現在就有意義地討論機器人對兒童發展究竟是利是弊還為時過早，但讓年輕的大腦無限制地接觸這些技術也是一種風險。