原創 數字生命卡茲克 數字生命卡茲克

這幾天，大家都刷到韓國#N號房2.0#事件的新聞了嗎？

曾經席卷韓國的N號房，又雙叒叕重來了。

而這次，主要的犯罪工具其實就是AI中一直飽受爭議的Deepfake（深度偽造），或者可以就簡單的理解為，AI換臉。

說實話，距離N號房事件的曝光，已經過去整整4年了。

2021年，隨著主犯趙主彬的落網以及40年的刑期，轟動整個韓國的N號房事件，看似落下了帷幕。

但是就像你在家里發現了一只蟑螂一樣，你掀翻家里的所有角落，一定能再發現無數只蟑螂。

而如今在新時代AI技術的加持下，他們拋棄了舊時代的偷拍，帶著Deepfake，又卷土重來了。

或者說，他們從來都沒有消失過，只是從2021年的灰燼，重新燃起了熊熊大火。

這些犯罪者，利用Deepfake，合成身邊女性同學、朋友的色情照片和視頻，在Telegram上通過聊天室的方式進行瘋狂傳播。

他們甚至按照共同的學校、地區，來建了N個群。

一起用身邊的熟人作樂，甚至是威脅，還以AI視頻+公開受害女性身份、家庭住址為理由，向受害人索要錢財。

這一次，最大的受害者群體，是學生。

而最大的加害者群體，也是學生。

比如有一位女教師就被告知自己的涉黃圖片在聊天室里被傳播，而上傳者正是她的學生。

她的學生利用和女教師的合照、女教師發在KakaoTalk （韓國版微信）上的照片，用deepfake定制了她的色情影像，甚至他還在定制的時候注明了身材要求、姿勢要求。

在一個 22.7 萬人參與的 Telegram 聊天室，只需要女性的照片，就能在幾秒內生成被用Deepfake換過臉的色情內容。

22 萬什么概念？韓國 2023 年新生兒人數只有 23 萬，總人口數只有 5000 多萬。

而這，只是其中一個頻道。

至于報警？呵。

在韓國的土壤上，N號房，蔓延開去后，就再也停不下來了。

這密密麻麻的紅點，就是軌跡。

為了對抗，許多韓國女性在社交媒體上發帖，呼吁韓國和外界對Deepfake犯罪事件的關注。

在韓國國內發帖已經幾乎無用，他們就像三體中的降臨派一樣，祈求外部輿論，能來凈化國內。

她們在X上用英文發帖，甚至還在微博用中文求助：

所有人都知道，家丑不可外揚。

試問，如果在韓國內部，還能有解決的辦法，她們會祈求三體人降臨，來治愈她們的一切嗎，你能想象到，這是有多無助，多絕望嗎？

但是，土壤的問題，我覺得，真的，挺無解的。

這塊就不深說了，也不好說，有興趣的，可以自己去深扒一下。

說實話，我覺得，韓國這波Deepfake的N號房問題，不止是韓國問題，只是韓國那邊實在太爛了，最先暴露出來而已。

這是全世界女性的問題。

土壤的事情，我們幾乎做不了任何東西，但是從技術上，我覺得，我們還是可以有一些有薄弱的解的。

Deepfake的換臉視頻，至少在現在這個時間點看，不是完美無瑕全無破綻，所以，那如果，我們至少，能識別出AI換臉視頻呢？

其實在這件事爆出來的時候，我就一直在看各種東西，在找識別的方法。但我畢竟不是技術人，很慢，又很笨。

直到今天，我在抖音和微博上，看到同一個熱搜。

真的，如同天上降真主，真乃人間太歲神。

她把他們的模型直接開源了，用來對抗Deepfake。

我也不知道為什么，我有點想哭。

“Girls help girls”具像化的呈現，或許也是女性工程師更能共情女性面對Deepfake犯罪時的恐慌和無助。

這位工程師名叫張欣怡，是來自中科院的博士。今年她和中科院的團隊正好參與了外灘大會Deepfake攻防賽。

也就是9月3日當晚，大會也公布了三強名單，張欣怡和她所在的團隊VisionRush赫然在列。

張欣怡說：

“經團隊同意，已將近期參加在上海舉辦的外灘大會AI創新賽·全球Deepfake（深度偽造技術）攻防挑戰賽的AI模型向全球開源?！?/p>

是的，他們直接開源了。

這個模型叫DeepfakeDefenders，在Github上就能找到。

鏈接在此：https://github.com/VisionRush/DeepFakeDefenders

外灘大會設立了100萬元人民幣的獎金池，但張欣怡和她的團隊并沒有止步于這個比賽，而是為了能夠幫助更多人，將獲獎的項目直接開源。

并且張欣怡本人@啦啦啦啦啦啦啦0-0也在微博表示后續會繼續開發應用，降低大眾的使用門檻。他們是真的希望可以幫助到更多人！

中科院的這套Deepfake檢測系統，還是很有意思的。

我硬著頭皮啃了半天代碼，可惜電腦不太行，沒能順利跑通case。

但是我花了一晚上跟幾個做計算機視覺的朋友請教學習了一下它是怎么工作的。

本質上，還是模仿人類視覺系統的工作原理。

我稍微用比喻講得通俗易懂一點，大家應該就能明白為什么中科院的這個DeepfakeDefenders系統能準確地識別出深度偽造的圖片了。

讓我們把這個系統想象成一個超級細心、眼力賊強又經驗豐富的超級偵探。

這位偵探有兩只眼睛，一只叫ConvNeXt（一種純卷積神經網絡），另一只叫RepLKNet（一種新型的卷積神經網絡架構）。這兩只眼睛各有特點，能從不同角度觀察圖片的細節。

現在，我們給偵探一張照片，讓他判斷這張照片是真的還是假的(深度偽造)。

他會怎么做呢?

首先，他會用ConvNeXt這只眼睛仔細觀察照片。它就像是一個放大鏡，能同時看到照片的整體和局部細節。此時偵探會注意照片中的色彩變化、紋理特征，甚至是像素級別的細微差異。

然后呢，偵探會用RepLKNet這只眼睛再看一遍。這只眼睛更像是一個廣角鏡頭，能看到更大范圍的信息，特別擅長發現那些可能藏在照片任何角落的偽造痕跡。

但是光靠看還不夠，偵探還有一個特殊的“鑒別工具箱”。

他會從工具箱里拿出各種“濾鏡”，在看照片時戴上不同的鏡片。

有的濾鏡會改變照片的亮度和對比度；有的會旋轉或翻轉照片；還有一種特殊的SRM濾鏡，能讓那些肉眼難以察覺的細微痕跡變得更明顯。

通過這些不同的“濾鏡”，偵探就能從多個角度反復檢查照片，不放過任何可疑的地方。

在做出最后判斷之前，他還會回想起他以前偵查過的無數真假照片（也就是訓練過程）。他會把當前的照片和記憶中的那些照片進行比較，看看有沒有相似的特征。

最后的最后，偵探會綜合所有觀察結果，給出一個判斷：這張照片是真的，還是假的。

當然，上面這段解釋和比喻也只是我自己的理解。

如有不對，歡迎大佬在評論區指教。

坦率的講，Deepfake掀起的這次N號房事件，對我的觸動真的很大。

如果從去年很早就關注我的老粉可能會知道，我寫過大模型、寫過AI繪圖、寫過TTS、寫過SVC、寫過AI視頻、寫過AI 3D。

我寫了200多篇文章，但唯獨，從來沒有寫AI換臉或者Deepfake的任何內容。

因為，Deepfake，是一把雙刃劍，更是潘多拉魔盒。

在電影制作中，它讓我們得以欣賞到“年輕版”的小羅伯特唐尼在《美國隊長3》中的精彩表演，也讓吳京和劉德華在《流浪地球2》“重返二十歲”。

令人驚嘆的視覺效果背后，是技術為人類創造力插上的翅膀。

但是，當這項技術被一些不法分子濫用時，我們只能被迫面臨著一個又一個令人不寒而栗的現實。

不僅僅是N號房用Deepfake來侵犯女性，還有各種詐騙。

比如今年2月，詐騙者通過公司的YouTube視頻和從其他公開渠道獲取的媒體資料，成功地仿造了英國公司高層管理人員的形象和聲音，再利用Deepfake技術制作偽冒視頻，造成多人參與視頻會議的效果，騙取財務職員2億港元。

那些傳統的身份驗證方式（如視頻通話確認）在面對如此高超的Deepfake技術時，早已顯得力不從心。

當我們的形象可以被隨意篡改，我們的聲音可以被任意模仿，我們的行為可以被肆意偽造。

它撕裂了社會信任的基礎，動搖了人們對現實的認知。

在一個連“我是我”都無法確定的世界里，真相變得可疑，現實變得模糊。

正如張欣怡所說，“在臉被偷走的同時，我們的身份、名譽、隱私、尊重也都被偷走了。”

是她，是我，更是所有人。

“這個世界有黑暗，也有照亮黑暗的光。如果一個人的火把太小，我們就把火把傳給世界的每一個人?！?/p>

但是，好在，我們還有我們。

在這場大戰中，我們既是戰士，也是戰場本身。

舉起一束黑暗中的火把。

筑起另一座自由的羅馬。

謝謝你。

張欣怡。

原標題：《她決定開源AI模型，正面宣戰“N號房2.0”?！?/p>

閱讀原文