賈浩楠 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

還記那只被眾網友玩壞的「最強馬賽克修復AI」PLUSE嗎？

前兩天我們報道了杜克大學發布在CVPR 2020的這項成果，還放出了一大波效果實測。

其中一張奧觀海同志復原圖引起了讀者SilverCasque的注意：

他留言說「還原的全是白人的臉，黑拳警告」。

沒想到這位讀者神預測，現在，PLUSE果然因此惹出了大麻煩。

就連深度學習巨頭LeCun出來為這項技術辯解，也被國外網友和同行炮轟。

PLUSE：不允許你不白

PLUSE一經推出就引起了極大的關注，但是，網友實際使用PLUSE，卻發現了一個很嚴重的問題：PLUSE無法準確還原有色人種圖像。

如果只是還原失敗，弄出一個不人不鬼的東西，最多只是技術問題。

但麻煩的是，PLUSE不僅還原出了完整的人臉，還是一張五官端正漂亮的白人臉。

這在如今高喊「黑命貴」的美國，無疑是一股扎眼的“逆流”。

有網友就拿奧巴馬的低像素照片反復測試，結果無一不是白人男性，更加坐實了PLUSE的罪名。

隨后，知名機器學習博主Robert Osazuwa Ness拿不同有色人種的低像素照片去測試，這其中有他自己、有美國著名國會議員Alexandria-Ocasio Cortez，和華裔女星劉玉玲。

看到模特皮膚不夠白，PLUSE還十分執著地給他安上了一頭金發…….真的是「不允許你不白」。

Alexandria-Ocasio Cortez是美國有史以來最年輕的國會議員，拉丁裔，也被強行洗成白人。

對于亞裔，PLUSE更不客氣，你甚至看不出一點人物原本真實的特征。

比如博主Robert Osazuwa Ness自己的妻子：

華裔女星劉玉玲：

總之，在外國網友的測試中，PLUSE無一例外的把少數族裔強行洗白，似乎在有意糾正人們的膚色和五官特征。

網友對此反映自然很激烈，有人認為這是一種帶有種族歧視的、非常危險的技術;

這一種觀點引起了較多共鳴，還有人緊跟著曬出了其他「種族偏見」的AI算法，比如這位一個將照片變成文藝復興風格的算法也將別人強行洗白：

有人干脆給PLUSE起了個新外號：「白人雷達」

但是也有一部分網友認為，算法本身是沒有所謂「種族歧視」的，問題出在了用來訓練算法的數據集上。

PLUSE的核心StyleGan是在FFHQ上訓練的，有網友認為盡管它的人種多樣性好于嚴重偏向白人的CELEB-A，但仍然不夠。

有網友截取了一部分FFHQ的人臉數據集：

確實夠白的……但有人同時指出，除了數據集的偏差，還有一種可能是模型的崩潰失效，算法“偷懶”，僅僅把人像漂白，而不是為不同種族和面部特征建模。

但也有人認為，即使用相同數據集訓練StyleGan也能生成非白人結果，問題還是出在算法上。

網友對PLUSE的口誅筆伐目前還沒有得到論文原作者的回應。

但另一位機器學習元老卻首先發聲了。

LeCun也中槍，到底冤不冤？

深度學習巨頭LeCun對于網友對PLUSE幾乎一邊倒的抨擊進行了回應：

他認為，機器學習系統帶有偏見是因為數據帶有偏見。假如在塞內加爾采集的數據上訓練，輸出肯定都是黑人。

隨后他還補充道，相比于這種純學術論文，這個問題應該是工程師更加關注的，實際部署中這種偏見會有嚴重的后果，盯著幾個學者討伐沒有什么意義。

此話一出，頓時引起了同行的炮轟，外媒報道，一個可問責AI研究者Deborah Raji控訴LeCun：

對LeCun的言論十分震驚，這反應出了行業領軍人物的麻木不仁（lack of awearness）。

不明白像LeCun這樣處在如此關鍵位置的人，為什么會認為學術研究對工程部署沒有影響。

社會的偏見不可能靠一個「正確」的數據集去解決。

LeCun對這樣的指責頗有些無奈，他對外媒說：

我從來沒說過學術研究無法在應用中確立規范。

我之前也在Facebook建立領導過致力于AI技術公平性的工作組。

其實，稍聰明的讀者都能明白，LeCun的意思是說，論文只是提供了解決問題的思路，實際應用中的問題復雜的多，這才是應該關注的。

借由一篇論文的結果炮轟研究人員，以此標榜自己的政治正確、販賣觀點，這一點是LeCun不愿意看到的。

技術本身是無罪的，國外炮轟PLUSE這一事件超出了技術本身，甚至也早就超出了科學倫理的范圍，這大概就是美利堅特色科研吧。

你怎么看？

參考鏈接

https://www.theverge.com/21298762/face-depixelizer-ai-machine-learning-tool-pulse-stylegan-obama-bias

原標題：《奧巴馬竟被「去馬賽克AI」洗白，CVPR新研究惹上種族歧視大麻煩，LeCun也被卷入其中》

閱讀原文