撰文 ｜ 邱瑜敏、朱小明

編輯 ｜ 薇薇子

“你是不是得罪了什么人？”

你正在被數(shù)十萬的網(wǎng)友意淫。

你的臉被AI合成在另一個(gè)裸露的身體上，做著奇怪的姿勢(shì)和動(dòng)作。

有一群人用“蕩婦”“母狗”等字眼來評(píng)論你，再編排上莫須有的身份，你成為了“隔壁少婦”“清純學(xué)妹”和“淫蕩表妹”，而你的地址、電話號(hào)碼甚至身份證號(hào)碼被一并曝光。這一切的始作俑者，也許是身邊的普通同學(xué)，合作同事，甚至是家人和親密愛人。

你對(duì)一切一無所知。直到被陌生人的騷擾信息打破。

今年五月，住在廣東的95后女生小娜一股腦收到十幾個(gè)陌生人的好友申請(qǐng)，加上其中一個(gè)人后，對(duì)方不光言語輕浮，還發(fā)來了她的生活照和被盜臉的照片，問她“你是不是得罪了什么人？”

淫穢裸露畫面里的人物，有著和她一樣的臉，發(fā)圖者還配文造謠，一會(huì)兒說她是“前女友”，一會(huì)兒說她是“出軌鄰居”，還把她的姓名、微信號(hào)碼等個(gè)人信息都泄露了出去。

“怎么會(huì)有人這么惡毒？”看到自己被盜臉的圖片和視頻的那一刻，小娜震驚又憤怒。

小娜因?yàn)檫@事睡不著覺，在床上翻來覆去地想，前同事甚至家人都懷疑過，但她還是無法確認(rèn)這個(gè)盜用自己照片的人。“一定要找到這個(gè)人，真的太過分了。”小娜說，自己不想息事寧人，如果不給對(duì)方一個(gè)教訓(xùn)，以后會(huì)有更多人受到傷害，“他們就是覺得好像自己很安全，不會(huì)暴露。”

小娜和丈夫通過這幾個(gè)陌生人提供的線索進(jìn)入了有盜臉內(nèi)容的國外社交軟件Telegram。Telegram又叫“電報(bào)”，該平臺(tái)不需要實(shí)名認(rèn)證，信息點(diǎn)對(duì)點(diǎn)加密，最大程度上保障隱私安全。該軟件也因N號(hào)房事件被人熟知。在Telegram的群聊里，她發(fā)現(xiàn)了自己被盜臉的照片僅僅只是冰山一角。

某電報(bào)群內(nèi)的聊天信息，受訪者供圖

一個(gè)有20萬人的大群，群里的消息全是由各種侮辱女性的文字和裸露的照片組成，小娜隨便翻了翻，這些女孩都是普通的素人，“網(wǎng)紅、明星很少”。

也就是說，盜臉、侵犯隱私的目標(biāo)已經(jīng)轉(zhuǎn)移向了普通人，許多女孩并不知道她們的生活照被人悄悄地?fù)Q在了另一個(gè)身體上，暴露給了更多陌生人以供意淫。

在Telegram里，這樣打著AI換臉、一鍵脫衣標(biāo)簽的群聊還有很多。一位曾經(jīng)誤入Telegram一個(gè)AI換臉群聊的女性用戶告訴「后浪研究所」，群里有人打廣告販賣AI換臉軟件，偶爾也有“技術(shù)達(dá)人”提供免費(fèi)換臉的活動(dòng)，一大堆人拿著女性的照片“求換臉”，“他們說，這是他們的同事、同學(xué)或者青梅竹馬。”

這些照片和文字給人的沖擊很大。小娜說，看多了照片，有生理上的痛苦，失眠、腦鳴，“做夢(mèng)都是那些惡心的東西”，連作為男性的丈夫也接受不了，幾天也沒睡好覺，“不相信人類會(huì)做出這樣的事情。”

幾天后，小娜去了當(dāng)?shù)嘏沙鏊Ｊ虑橐话l(fā)生，她本打算靠自己揪出盜用照片的人，但僅憑幾條線索無法準(zhǔn)確定位，發(fā)自己圖片的賬號(hào)也已經(jīng)注銷，無奈之下，她只能在沒有確切證據(jù)的情況下報(bào)了警。

小娜收到的報(bào)警回執(zhí)，受訪者供圖

接待她的警察說，已經(jīng)有許多女性碰到了被AI盜臉的情況，但很多人不敢報(bào)案，因?yàn)樗齻儾幌胱屔磉吶酥雷约涸庥隽诉@樣的事情。

AI盜臉已經(jīng)不是一個(gè)隱晦的話題了。

今年4月，抖音女網(wǎng)紅Caro賴賴曾發(fā)布微博稱自己被盜臉。賴賴說，有人在境外社交平臺(tái)上冒充她注冊(cè)賬號(hào)，還以會(huì)員訂閱的方式販賣視頻，這些視頻都是AI盜臉的色情視頻。

賴賴還提到：“我曾看到過一個(gè)網(wǎng)紅名單，表里密密麻麻寫滿了我熟悉的名字。他們根據(jù)博主的粉絲量級(jí)進(jìn)行分類，假視頻價(jià)格在30-50元不等。但只要你花200元就可以進(jìn)群，進(jìn)群后不僅可以享受永久半價(jià)，甚至還能接‘私人定制’。”

賴賴的說法也揭開了AI盜臉的隱秘產(chǎn)業(yè)鏈——掌握深度合成技術(shù)的不法分子，將明星、網(wǎng)紅博主甚至素人的臉制作成色情照片和視頻，甚至兜售AI換臉軟件、技術(shù)以獲取利益。

潘多拉的魔盒

在手機(jī)應(yīng)用商店搜索，不難發(fā)現(xiàn)，AI換臉功能在娛樂應(yīng)用板塊也不算小眾。

在抖音、美圖秀秀等軟件都能找到AI換臉的濾鏡，市面上也有多款具有AI換臉功能的軟件。我們隨機(jī)下載了一款評(píng)分4.3分的APP——秀臉FacePlay。在AI換臉區(qū)，有美女換臉、古風(fēng)換裝等視頻或圖片模板可供選擇。

首次上傳圖片時(shí)，APP會(huì)向用戶介紹AI換臉的工作原理，同時(shí)也會(huì)彈出提示框，“請(qǐng)確保你使用的照片獲得本人授權(quán)同意，如因照片未授權(quán)對(duì)他人肖像權(quán)造成侵犯所產(chǎn)生的法律責(zé)任由本人承擔(dān)。”

除了娛樂休閑以外，AI換臉的場(chǎng)景還作用在影視劇二次創(chuàng)作當(dāng)中，今年年初上映的電視劇《風(fēng)雨送春歸》就因演員換臉引起過爭(zhēng)議。

2019年，一款名叫“ZAO”的AI換臉APP走紅，就曾引起過侵犯?jìng)€(gè)人肖像權(quán)的擔(dān)憂。人臉數(shù)據(jù)采集和人臉合成技術(shù)的簡(jiǎn)單化，使得使用換臉軟件的個(gè)體面臨更大的隱私泄露風(fēng)險(xiǎn)。除此之外，還可能引發(fā)色情、暴力等問題。

時(shí)間已經(jīng)過去近四年，現(xiàn)在，AI技術(shù)的換臉功能更為成熟普遍，有專家在接受媒體采訪時(shí)表示，目前在主流社交平臺(tái)發(fā)布的照片清晰度，大部分足夠生成自然貼合度較高、難辨真假的換臉照片和視頻。即便清晰度較低，也可以通過AI補(bǔ)齊，提高換臉圖像的貼合程度。

技術(shù)門檻降低，更大范圍的普及，使這些本應(yīng)使用在合理場(chǎng)景的技術(shù)，成為了不法分子的灰色武器。潘多拉的魔盒已經(jīng)打開。

小娜被盜臉的照片和視頻，使用了她的臉部特征，臉型、氣質(zhì)并不相同，小娜看著別扭，但她也不得不認(rèn)為那些照片很逼真“五官很像，有一種真實(shí)又不真實(shí)的感覺。”

00后大學(xué)生林林也是在5月份發(fā)現(xiàn)自己被色情照片盜臉了，這個(gè)女孩遭遇了和“廣州地鐵女孩”類似的脫衣處理。有人在加上她的微信后，發(fā)給她用生活照AI脫衣的照片，還用污穢的言語騷擾她。那張照片是她旅游時(shí)拍的，身后還有許多游客。

林林給閨蜜看照片，她幾乎看不出圖片有被處理過的痕跡，身體裸露部分的光影、膚色都毫不違和，“如果不是旁邊人表情都正常（如果是真的裸體，一定會(huì)引人注目），根本猜不到這是AI做的。”

令女孩們驚訝的是，技術(shù)已經(jīng)如此下沉，她們身邊某個(gè)普通人都可能掌握深度合成的技術(shù)，在她們不知道的情況下盜臉、生成視頻。

有媒體報(bào)道，有商家能根據(jù)用戶需求定制明星、素人專人換臉模型。提供的信息包括被換臉對(duì)象在正常光線下的正臉、側(cè)臉、側(cè)下方、側(cè)上方等各個(gè)角度畫面，和喜怒哀樂等表情，制作一個(gè)素人模型的價(jià)格在2600-6000元不等。

「后浪研究所」嘗試在網(wǎng)購平臺(tái)搜索，發(fā)現(xiàn)檢索“AI換臉”這一關(guān)鍵詞，已經(jīng)無法搜索到任何商品信息。但通過一些特殊詞匯，仍然能找到一些銷售AI換臉產(chǎn)品的店鋪。

一個(gè)標(biāo)著“去衣?lián)Q衣?lián)Q背景”的商品，僅售價(jià)16.6元，客服說，店鋪不提供換臉服務(wù)，售賣的是軟件和教程。進(jìn)一步提問他，該軟件能否真人去衣，他回答，“只可意會(huì)不可言傳，真人發(fā)出來我店就沒了。”頁面顯示，該商品一個(gè)月的銷售量突破100+次。

另一家店的客服則直接讓我添加微信好友，發(fā)來了幾張換臉圖效果，并告訴我圖片收費(fèi)在30-50元不等，視頻則根據(jù)時(shí)長(zhǎng)收費(fèi)在幾十到幾百元不等。此外，他還提出可以加盟，學(xué)費(fèi)5000元，提供電腦程序和遠(yuǎn)程演示過程，學(xué)會(huì)了，就可以自己用技術(shù)換臉，甚至用來盈利。

他的收入令人咋舌，“我這個(gè)月快20W了。”

該店老板朋友圈發(fā)布的AI換臉作品

不過，這個(gè)老板格外謹(jǐn)慎，問他能否制作色情圖片，他回答，“一張40，只要你不怕封號(hào)。”

但要真追究起責(zé)任，封號(hào)也許是最輕的處罰。

據(jù)《方圓》雜志報(bào)道，近期，河北省高陽縣網(wǎng)警破獲一起制作、販賣、傳播淫穢物品牟利案。犯罪嫌疑人李豪通過QQ群自學(xué)AI換臉技術(shù)，用明星圖片制作淫穢視頻在網(wǎng)上以每10分鐘300元的價(jià)格售賣，嚴(yán)重侵犯了當(dāng)事人的肖像權(quán)和名譽(yù)權(quán)。

李豪還提供“私人定制”服務(wù)，將買家提供的素人照片加工制作成淫穢視頻或圖片。目前，李豪被檢察機(jī)關(guān)以涉嫌制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪提起公訴。

維權(quán)的難題

但現(xiàn)實(shí)情況并不樂觀，當(dāng)盜臉事件發(fā)生，普通人往往維權(quán)困難。

小娜報(bào)警已經(jīng)一個(gè)月了，進(jìn)度還停留在做筆錄那天。

盜用照片的人在境外軟件發(fā)帖，無法確認(rèn)具體身份。像Telegram這樣的平臺(tái)，并不會(huì)提供用戶隱私信息配合各國警方辦案。

韓國N號(hào)房事件也誕生于Telegram，其最初的報(bào)道者和報(bào)警人也在《N號(hào)房追蹤記》一書中提到，一位受害者報(bào)警后得到的答復(fù)是“由于Telegram方不配合調(diào)查，所以無法簽發(fā)拘捕令”。

所以，只有受害者自己先找出嫌疑者，事情才能迎來轉(zhuǎn)機(jī)。但這群人往往具有較高的警惕性，在外網(wǎng)上幾乎不留痕跡，很難找出其真實(shí)身份。

小娜翻看那些被盜用的照片，發(fā)現(xiàn)幾乎都來自近期的朋友圈，而且她的朋友圈僅三天可見，每次發(fā)送也設(shè)置了好友分組，她分析，這個(gè)人也許是自己身邊熟悉的人，惡意蹲守，等她一發(fā)動(dòng)態(tài)就立即搬運(yùn)、換臉。

但這個(gè)人是誰呢？她又排除了有性騷擾前科的前同事，認(rèn)識(shí)的朋友等等，實(shí)在想不出，“到底得罪了誰”。她模糊地告訴同事自己的照片被人發(fā)到外網(wǎng)上了，請(qǐng)大家?guī)兔ο胂胝l有可能，但對(duì)方卻開起了玩笑，“因?yàn)槟汩L(zhǎng)得好看吧”。

圖源視覺中國

找人無果，小娜逐漸陷入了自責(zé)，“是不是真的不應(yīng)該在朋友圈發(fā)照片呢？”，她的擔(dān)心是，對(duì)方已經(jīng)暴露了她所在的城市，如果她親近的家人、朋友、同事看見了，該怎么去面對(duì)和解釋呢？

現(xiàn)在，小娜嘗試著放下這件事，不再緊張找人的事，“生氣、憤怒、無助，太影響自己的工作生活了。我現(xiàn)在在調(diào)整，但我不會(huì)放棄追蹤這個(gè)事。”

她更換了自己能被檢索到的微信賬號(hào)名，近期也不打算發(fā)任何有自己的照片的動(dòng)態(tài)了。

另一個(gè)被盜臉的女孩林林也有了心理陰影，她把自己的抖音賬號(hào)設(shè)置成私密，朋友圈也從陌生人可見10張改成了三天可見。

她還是沒有查清楚那個(gè)拿著AI盜臉照片來微信騷擾自己的人究竟是誰，但因?yàn)楸灰绘I脫衣的還有她的室友，她告訴對(duì)方，“你針對(duì)我就算了，我的室友是無辜的。”

對(duì)方應(yīng)該是認(rèn)識(shí)她的熟人，也許是良心發(fā)現(xiàn)，竟然在跟她道歉之后刪除了好友。

這件事就這樣糊涂地結(jié)束了，林林本來不打算追究了，但閨蜜還是逼她在微信和國家反詐中心舉報(bào)了那個(gè)男生。

“他們就是口嗨而已，但我們像吃了啞巴虧。”林林的閨蜜說，那個(gè)發(fā)來盜臉照片的男生用言語羞辱了林林，但并沒有涉及到金錢糾紛和具體的損失，無法立案，而她們作為在校學(xué)生，最近疲于應(yīng)付期末和學(xué)業(yè)，也根本沒有精力去處理這件事，“維權(quán)成本太高了。”

此前公開被盜臉信息的網(wǎng)絡(luò)紅人賴賴也表示，舉報(bào)賬號(hào)后發(fā)現(xiàn)，在這些平臺(tái)上涉黃并不違法，而海外IP難以追蹤，傳到國內(nèi)的視頻也難以找到源頭。

在賴賴的評(píng)論下，還有許多網(wǎng)友提到自己和身邊人的經(jīng)歷，“曾經(jīng)的一個(gè)好朋友就因?yàn)楸I臉退了學(xué)”、“有人小號(hào)給我發(fā)裸照，跟我的臉長(zhǎng)得一模一樣”，但在遭遇了這些事情后，受害者只是獨(dú)自承擔(dān)傷害，少有人真正找到盜圖者，將其繩之以法。

畢竟，許多人還被蒙在鼓里，并不知道自己的照片被盜用在色情影像中，即便知道了，也很難通過個(gè)人力量找出嫌疑人。

“但也不能說以后就不發(fā)照片了，這又不是女孩子的錯(cuò)。”林林的閨蜜告訴「后浪研究所」，經(jīng)過此事后，她對(duì)異性有了更深的不信任感。但她明白其中的道理，只要求女性增加戒備心并不能遏制盜臉，還是要對(duì)造謠者嚴(yán)加懲罰。

被侵犯的邊界

那么，究竟該如何懲罰利用AI技術(shù)作惡的盜臉者呢？

浙江墾丁律師事務(wù)所人工智能法律研究部負(fù)責(zé)人、律師程念告訴「后浪研究所」，擅自使用他人肖像制作“換臉”視頻首先會(huì)侵犯肖像權(quán)。同時(shí)，通過對(duì)獲取他人人臉信息、制作視頻是否帶有違法內(nèi)容等具體情形的判斷，進(jìn)一步確定其他可能涉及的法律責(zé)任。

而利用換臉視頻發(fā)布色情信息的，則要根據(jù)不同行為承擔(dān)不同責(zé)任。“對(duì)于傳播淫穢色情視頻的行為，涉嫌觸犯《中華人民共和國刑法》規(guī)定的傳播淫穢物品罪，按照情節(jié)處二年以下有期徒刑、拘役或者管制。”

“如果行為尚未達(dá)到處罰標(biāo)準(zhǔn)的，則應(yīng)該按照《中華人民共和國治安管理處罰法》關(guān)于利用計(jì)算機(jī)信息網(wǎng)絡(luò)傳播淫穢物品的規(guī)定，處十日以上十五日以下拘留，可以并處三千元以下罰款；情節(jié)較輕的，處五日以下拘留或者五百元以下罰款。”

此外，在群里口嗨、侮辱女性，造黃謠等行為涉嫌觸犯刑法規(guī)定的侮辱罪，也符合民法典規(guī)定的侵害名譽(yù)權(quán)的情形。

而對(duì)于利用“一鍵脫衣、看光女神”的廣告販賣換臉的軟件技術(shù)商，可能構(gòu)成共同侵權(quán)，承擔(dān)相應(yīng)的民事責(zé)任，“用戶通過該軟件服務(wù)制作淫穢物品并涉嫌制作淫穢物品牟利罪、傳播淫穢物品罪等犯罪時(shí)，技術(shù)商可能構(gòu)成共犯。如用戶利用制作后的視頻實(shí)施其他犯罪的，則技術(shù)商可能構(gòu)成《中華人民共和國刑法》規(guī)定的幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，情節(jié)嚴(yán)重的處三年以下有期徒刑或者拘役，并處或者單處罰金。”

也就是說，打著“脫衣”旗號(hào)售賣軟件的商家也應(yīng)承擔(dān)法律責(zé)任，不能置身事外。

在具體的治理上，國外的法律法規(guī)也許能提供一些參考。

中國政法大學(xué)教授羅翔曾在2021年底討論AI盜臉的視頻中提到，美國有一個(gè)深度偽造責(zé)任法案，要求深度偽造的視頻傳播人必須要在作品上標(biāo)記水印，告訴大家這是偽造、拼接的。也規(guī)定了偽造者可能要承擔(dān)的刑事和民事責(zé)任。刑事責(zé)任甚至最高規(guī)定了五年有期徒刑。

該法案也提到，發(fā)布為了侮辱、羞辱他人，提供含有他人虛假的性行為或裸體的視頻，最高可以判處五年。

而針對(duì)AI盜臉的情況，國內(nèi)已有一些針對(duì)性的政策法規(guī)。

2022年12月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，在提供人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)時(shí)，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

今年4月11日，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，并向社會(huì)公開征求意見。

程念告訴「后浪研究所」，現(xiàn)在的女性要想避免AI盜臉侵犯自身權(quán)益，可以通過第三方存證軟件對(duì)相關(guān)的視頻、圖片進(jìn)行存證，“情況緊急時(shí)可以先行錄屏，保存好完整的查看視頻、圖片的路徑。”

在信息發(fā)布平臺(tái)看到這些視頻、圖片的，存證或者錄屏?xí)r一并將發(fā)布者的主頁、平臺(tái)ID、IP地點(diǎn)、發(fā)布時(shí)間、點(diǎn)擊量等信息一并記錄，保存侵權(quán)主體的相關(guān)信息及傳播信息，以作為情節(jié)嚴(yán)重程度的判斷依據(jù)之一。如該平臺(tái)內(nèi)發(fā)布的視頻、圖片支持評(píng)論功能的，評(píng)論內(nèi)相關(guān)的線索也應(yīng)及時(shí)存證保存。

圖源視覺中國

被AI盜臉?biāo)鶕p害的，也不只是女性群體。除了用于性剝削以外，AI盜臉已經(jīng)入侵了我們?nèi)粘Ｉ畹姆椒矫婷妗?/p>

近年來，AI合成相關(guān)的詐騙案頻發(fā)，2021年初，公安部網(wǎng)安局曾發(fā)文提醒公眾，注意防范合成聲音和AI換臉等人工智能新型詐騙手段。

今年5月，有媒體報(bào)道稱，福州一公司老板10分鐘內(nèi)被騙430萬元。詐騙團(tuán)伙利用AI換臉和擬聲技術(shù)，裝作熟人進(jìn)行視頻通話。警方介紹，AI詐騙還包括，聲音合成、AI換臉、轉(zhuǎn)發(fā)語音等手段，成功率接近100%。

今年6月25日，全國人大法工委發(fā)言人對(duì)AI詐騙現(xiàn)象做出回應(yīng)，利用“AI換臉”技術(shù)實(shí)施詐騙，是一種新型的電信網(wǎng)絡(luò)詐騙，需要廣大群眾提高識(shí)騙防騙意識(shí)，也需要有關(guān)部門依法加強(qiáng)治理和執(zhí)法，追究相關(guān)人員法律責(zé)任。

不斷新發(fā)的案件警醒大眾，AI的進(jìn)步伴隨著犯罪的危機(jī)和風(fēng)險(xiǎn)，如何保護(hù)生活邊界不被技術(shù)侵犯，已經(jīng)成為了不得不面對(duì)的現(xiàn)實(shí)問題。

今年6月，美國企業(yè)家馬斯克在某活動(dòng)中提到，人類在人工智能的研究過程中要小心，“人工智能可能是有史以來最具破壞性的技術(shù)”。

技術(shù)沒有善惡觀，但人類有。雖然人工智能的研發(fā)復(fù)雜晦澀，常人難以觸及，但它終將沉向大眾，回歸倫理維度，成為每個(gè)人類都不能忽視的存在。

（文中人物小娜、林林為化名。封面圖源自視覺中國。）

參考資料：

1.新京報(bào)：《被AI盜臉“造黃謠”，她說：我沒想過這種事會(huì)發(fā)生在自己身上》，2023-5-30

2.[韓]追蹤團(tuán)火花：《N號(hào)房追蹤記》，湖南文藝出版社，2022-2-1

3.方圓：《AI換臉，不能想換就換！》，2023-4-1

4.財(cái)經(jīng)E法：《888元“變臉楊冪”，AI黑灰產(chǎn)盯上明星》，2023-6-15

5.南方都市報(bào)：《AI新騙局來襲！成功率接近100%，有人10分鐘被騙430萬》，2023-5-28

6.極目新聞：《全國人大法工委：現(xiàn)行法律對(duì)“AI換臉”詐騙有規(guī)定》，2023-06-26

你對(duì)AI盜臉有什么樣的看法？你害怕AI技術(shù)嗎？歡迎在評(píng)論區(qū)分享你的看法~

原標(biāo)題：《AI盜臉盯上普通人：靠黃圖造謠，有人月入20萬》

閱讀原文