用“AI換臉技術(shù)”合成淫穢視頻，收費(fèi)供他人觀看，甚至根據(jù)顧客的需要使用不同的女明星形象進(jìn)行“私人定制”，以及通過出售“換臉軟件”非法獲利。

澎湃新聞（www.kxwhcb.com）“長三角政商”欄目2023年4月10日曾報(bào)道的男子用“AI換臉技術(shù)”合成淫穢視頻出售非法牟利案有了最新進(jìn)展。

澎湃新聞6月20日從杭州蕭山區(qū)檢察院獲悉，除了此前以涉嫌制作、傳播淫穢物品牟利罪對被告人虞某某提起公訴外，該院在審查時(shí)發(fā)現(xiàn)，被告人不僅涉嫌刑事犯罪，同時(shí)還存在損害社會公共利益的行為。對此，該院正式依法向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟。

據(jù)介紹，2020年，虞某某從互聯(lián)網(wǎng)接觸到“AI換臉”軟件及技術(shù)，并通過學(xué)習(xí)掌握了該軟件的使用方法。2021年開始，虞某某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進(jìn)行替換合成，制作生成虛假的換臉淫穢視頻，在網(wǎng)絡(luò)社交軟件上進(jìn)行傳播并獲利。截至案發(fā)，公安機(jī)關(guān)共在虞某某所組建的公開群內(nèi)查獲淫穢視頻1200余部、圖片1600余張。

2022年11月30日，公安機(jī)關(guān)以涉嫌傳播淫穢物品牟利罪將虞某某移送蕭山區(qū)檢察院審查起訴。該院在審查時(shí)發(fā)現(xiàn)，虞某某不僅涉嫌刑事犯罪（目前已對虞某某以制作、傳播淫穢物品牟利罪提起公訴），同時(shí)還存在損害社會公共利益的行為。

經(jīng)查，虞某某在使用“AI換臉”技術(shù)制作淫穢視頻的同時(shí)，還為他人提供換臉視頻定制服務(wù)，即根據(jù)客戶提供的視頻或照片，制作換臉視頻。此外，虞某某還在網(wǎng)絡(luò)社交軟件上銷售“AI換臉”軟件、提供換臉?biāo)夭牟魇谑褂媒坛獭?/p>

檢察機(jī)關(guān)認(rèn)為，人臉信息作為敏感個(gè)人信息，對于保障公民人身財(cái)產(chǎn)安全具有重要意義，應(yīng)當(dāng)依法受到嚴(yán)格保護(hù)。本案中，虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術(shù)非法處理、制作淫穢視頻后，在超過2000人的網(wǎng)絡(luò)社交軟件群組傳播，同時(shí)提供換臉視頻定制服務(wù)，使不特定群體成為潛在的被侵害對象，違反了法律法規(guī)和社會公德，混淆社會公眾認(rèn)知，污染社會風(fēng)氣，侵害了承載在不特定多數(shù)社會主體個(gè)人信息之上的公共信息安全，破壞社會公共秩序，構(gòu)成對公共信息安全領(lǐng)域的社會公共利益侵害；除此之外，虞某某在明知他人可能將“AI換臉”軟件用于侵犯個(gè)人信息等不正當(dāng)目的的情況下，仍向他人銷售“AI換臉”軟件、提供換臉?biāo)夭牟魇谑褂媒坛蹋?strong>使得更多不特定主體個(gè)人信息被侵害的社會危險(xiǎn)性進(jìn)一步擴(kuò)大。虞某某的行為違反了《中華人民共和國民法典》《個(gè)人信息保護(hù)法》等相關(guān)法律規(guī)定，應(yīng)當(dāng)承擔(dān)相應(yīng)的民事責(zé)任。

鑒于此，在依法履行訴前公告程序、無適格主體提起訴訟請求后，蕭山區(qū)檢察院于6月9日向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟，請求判令被告停止侵權(quán)，刪除持有的所有涉案個(gè)人信息，不得再違法使用深度合成技術(shù)侵害社會公益；支付公益損害賠償金人民幣60000元（專門用于個(gè)人信息保護(hù)、人臉深度合成技術(shù)應(yīng)用的治理等公益事項(xiàng)）；在國家級媒體上向社會公眾公開賠禮道歉。

“人臉信息與個(gè)人的隱私權(quán)、名譽(yù)權(quán)、財(cái)產(chǎn)權(quán)等多種權(quán)益關(guān)系緊密，屬于敏感個(gè)人信息，從司法實(shí)踐來看，人臉信息的不正當(dāng)使用將對社會公眾的人身和財(cái)產(chǎn)安全帶來重大風(fēng)險(xiǎn)，一旦造成侵害往往是長久的、持續(xù)的、難以彌補(bǔ)的。”承辦該案的檢察官說，近年來，利用“AI換臉”技術(shù)制作換臉視頻，繞過人臉識別系統(tǒng)監(jiān)管從而實(shí)施詐騙、盜竊等犯罪的情形時(shí)有發(fā)生。可以說，“AI換臉”技術(shù)在灰色領(lǐng)域甚至違法犯罪領(lǐng)域的濫用，給社會公眾帶來了極大危害。“我們希望通過該案的辦理，能夠進(jìn)一步震懾犯罪分子，也提醒廣大群眾，在使用新興技術(shù)時(shí)，不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界。”