原創(chuàng) 數(shù)字生命卡茲克 數(shù)字生命卡茲克

這幾天，大家都刷到韓國#N號房2.0#事件的新聞了嗎？

曾經(jīng)席卷韓國的N號房，又雙叒叕重來了。

而這次，主要的犯罪工具其實就是AI中一直飽受爭議的Deepfake（深度偽造），或者可以就簡單的理解為，AI換臉。

說實話，距離N號房事件的曝光，已經(jīng)過去整整4年了。

2021年，隨著主犯趙主彬的落網(wǎng)以及40年的刑期，轟動整個韓國的N號房事件，看似落下了帷幕。

但是就像你在家里發(fā)現(xiàn)了一只蟑螂一樣，你掀翻家里的所有角落，一定能再發(fā)現(xiàn)無數(shù)只蟑螂。

而如今在新時代AI技術(shù)的加持下，他們拋棄了舊時代的偷拍，帶著Deepfake，又卷土重來了。

或者說，他們從來都沒有消失過，只是從2021年的灰燼，重新燃起了熊熊大火。

這些犯罪者，利用Deepfake，合成身邊女性同學(xué)、朋友的色情照片和視頻，在Telegram上通過聊天室的方式進(jìn)行瘋狂傳播。

他們甚至按照共同的學(xué)校、地區(qū)，來建了N個群。

一起用身邊的熟人作樂，甚至是威脅，還以AI視頻+公開受害女性身份、家庭住址為理由，向受害人索要錢財。

這一次，最大的受害者群體，是學(xué)生。

而最大的加害者群體，也是學(xué)生。

比如有一位女教師就被告知自己的涉黃圖片在聊天室里被傳播，而上傳者正是她的學(xué)生。

她的學(xué)生利用和女教師的合照、女教師發(fā)在KakaoTalk （韓國版微信）上的照片，用deepfake定制了她的色情影像，甚至他還在定制的時候注明了身材要求、姿勢要求。

在一個 22.7 萬人參與的 Telegram 聊天室，只需要女性的照片，就能在幾秒內(nèi)生成被用Deepfake換過臉的色情內(nèi)容。

22 萬什么概念？韓國 2023 年新生兒人數(shù)只有 23 萬，總?cè)丝跀?shù)只有 5000 多萬。

而這，只是其中一個頻道。

至于報警？呵。

在韓國的土壤上，N號房，蔓延開去后，就再也停不下來了。

這密密麻麻的紅點，就是軌跡。

為了對抗，許多韓國女性在社交媒體上發(fā)帖，呼吁韓國和外界對Deepfake犯罪事件的關(guān)注。

在韓國國內(nèi)發(fā)帖已經(jīng)幾乎無用，他們就像三體中的降臨派一樣，祈求外部輿論，能來凈化國內(nèi)。

她們在X上用英文發(fā)帖，甚至還在微博用中文求助：

所有人都知道，家丑不可外揚(yáng)。

試問，如果在韓國內(nèi)部，還能有解決的辦法，她們會祈求三體人降臨，來治愈她們的一切嗎，你能想象到，這是有多無助，多絕望嗎？

但是，土壤的問題，我覺得，真的，挺無解的。

這塊就不深說了，也不好說，有興趣的，可以自己去深扒一下。

說實話，我覺得，韓國這波Deepfake的N號房問題，不止是韓國問題，只是韓國那邊實在太爛了，最先暴露出來而已。

這是全世界女性的問題。

土壤的事情，我們幾乎做不了任何東西，但是從技術(shù)上，我覺得，我們還是可以有一些有薄弱的解的。

Deepfake的換臉視頻，至少在現(xiàn)在這個時間點看，不是完美無瑕全無破綻，所以，那如果，我們至少，能識別出AI換臉視頻呢？

其實在這件事爆出來的時候，我就一直在看各種東西，在找識別的方法。但我畢竟不是技術(shù)人，很慢，又很笨。

直到今天，我在抖音和微博上，看到同一個熱搜。

真的，如同天上降真主，真乃人間太歲神。

她把他們的模型直接開源了，用來對抗Deepfake。

我也不知道為什么，我有點想哭。

“Girls help girls”具像化的呈現(xiàn)，或許也是女性工程師更能共情女性面對Deepfake犯罪時的恐慌和無助。

這位工程師名叫張欣怡，是來自中科院的博士。今年她和中科院的團(tuán)隊正好參與了外灘大會Deepfake攻防賽。

也就是9月3日當(dāng)晚，大會也公布了三強(qiáng)名單，張欣怡和她所在的團(tuán)隊VisionRush赫然在列。

張欣怡說：

“經(jīng)團(tuán)隊同意，已將近期參加在上海舉辦的外灘大會AI創(chuàng)新賽·全球Deepfake（深度偽造技術(shù)）攻防挑戰(zhàn)賽的AI模型向全球開源。”

是的，他們直接開源了。

這個模型叫DeepfakeDefenders，在Github上就能找到。

鏈接在此：https://github.com/VisionRush/DeepFakeDefenders

外灘大會設(shè)立了100萬元人民幣的獎金池，但張欣怡和她的團(tuán)隊并沒有止步于這個比賽，而是為了能夠幫助更多人，將獲獎的項目直接開源。

并且張欣怡本人@啦啦啦啦啦啦啦0-0也在微博表示后續(xù)會繼續(xù)開發(fā)應(yīng)用，降低大眾的使用門檻。他們是真的希望可以幫助到更多人！

中科院的這套Deepfake檢測系統(tǒng)，還是很有意思的。

我硬著頭皮啃了半天代碼，可惜電腦不太行，沒能順利跑通case。

但是我花了一晚上跟幾個做計算機(jī)視覺的朋友請教學(xué)習(xí)了一下它是怎么工作的。

本質(zhì)上，還是模仿人類視覺系統(tǒng)的工作原理。

我稍微用比喻講得通俗易懂一點，大家應(yīng)該就能明白為什么中科院的這個DeepfakeDefenders系統(tǒng)能準(zhǔn)確地識別出深度偽造的圖片了。

讓我們把這個系統(tǒng)想象成一個超級細(xì)心、眼力賊強(qiáng)又經(jīng)驗豐富的超級偵探。

這位偵探有兩只眼睛，一只叫ConvNeXt（一種純卷積神經(jīng)網(wǎng)絡(luò)），另一只叫RepLKNet（一種新型的卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)）。這兩只眼睛各有特點，能從不同角度觀察圖片的細(xì)節(jié)。

現(xiàn)在，我們給偵探一張照片，讓他判斷這張照片是真的還是假的(深度偽造)。

他會怎么做呢?

首先，他會用ConvNeXt這只眼睛仔細(xì)觀察照片。它就像是一個放大鏡，能同時看到照片的整體和局部細(xì)節(jié)。此時偵探會注意照片中的色彩變化、紋理特征，甚至是像素級別的細(xì)微差異。

然后呢，偵探會用RepLKNet這只眼睛再看一遍。這只眼睛更像是一個廣角鏡頭，能看到更大范圍的信息，特別擅長發(fā)現(xiàn)那些可能藏在照片任何角落的偽造痕跡。

但是光靠看還不夠，偵探還有一個特殊的“鑒別工具箱”。

他會從工具箱里拿出各種“濾鏡”，在看照片時戴上不同的鏡片。

有的濾鏡會改變照片的亮度和對比度；有的會旋轉(zhuǎn)或翻轉(zhuǎn)照片；還有一種特殊的SRM濾鏡，能讓那些肉眼難以察覺的細(xì)微痕跡變得更明顯。

通過這些不同的“濾鏡”，偵探就能從多個角度反復(fù)檢查照片，不放過任何可疑的地方。

在做出最后判斷之前，他還會回想起他以前偵查過的無數(shù)真假照片（也就是訓(xùn)練過程）。他會把當(dāng)前的照片和記憶中的那些照片進(jìn)行比較，看看有沒有相似的特征。

最后的最后，偵探會綜合所有觀察結(jié)果，給出一個判斷：這張照片是真的，還是假的。

當(dāng)然，上面這段解釋和比喻也只是我自己的理解。

如有不對，歡迎大佬在評論區(qū)指教。

坦率的講，Deepfake掀起的這次N號房事件，對我的觸動真的很大。

如果從去年很早就關(guān)注我的老粉可能會知道，我寫過大模型、寫過AI繪圖、寫過TTS、寫過SVC、寫過AI視頻、寫過AI 3D。

我寫了200多篇文章，但唯獨，從來沒有寫AI換臉或者Deepfake的任何內(nèi)容。

因為，Deepfake，是一把雙刃劍，更是潘多拉魔盒。

在電影制作中，它讓我們得以欣賞到“年輕版”的小羅伯特唐尼在《美國隊長3》中的精彩表演，也讓吳京和劉德華在《流浪地球2》“重返二十歲”。

令人驚嘆的視覺效果背后，是技術(shù)為人類創(chuàng)造力插上的翅膀。

但是，當(dāng)這項技術(shù)被一些不法分子濫用時，我們只能被迫面臨著一個又一個令人不寒而栗的現(xiàn)實。

不僅僅是N號房用Deepfake來侵犯女性，還有各種詐騙。

比如今年2月，詐騙者通過公司的YouTube視頻和從其他公開渠道獲取的媒體資料，成功地仿造了英國公司高層管理人員的形象和聲音，再利用Deepfake技術(shù)制作偽冒視頻，造成多人參與視頻會議的效果，騙取財務(wù)職員2億港元。

那些傳統(tǒng)的身份驗證方式（如視頻通話確認(rèn)）在面對如此高超的Deepfake技術(shù)時，早已顯得力不從心。

當(dāng)我們的形象可以被隨意篡改，我們的聲音可以被任意模仿，我們的行為可以被肆意偽造。

它撕裂了社會信任的基礎(chǔ)，動搖了人們對現(xiàn)實的認(rèn)知。

在一個連“我是我”都無法確定的世界里，真相變得可疑，現(xiàn)實變得模糊。

正如張欣怡所說，“在臉被偷走的同時，我們的身份、名譽(yù)、隱私、尊重也都被偷走了。”

是她，是我，更是所有人。

“這個世界有黑暗，也有照亮黑暗的光。如果一個人的火把太小，我們就把火把傳給世界的每一個人。”

但是，好在，我們還有我們。

在這場大戰(zhàn)中，我們既是戰(zhàn)士，也是戰(zhàn)場本身。

舉起一束黑暗中的火把。

筑起另一座自由的羅馬。

謝謝你。

張欣怡。

原標(biāo)題：《她決定開源AI模型，正面宣戰(zhàn)“N號房2.0”。》

閱讀原文