人工智能，從上世紀50年代到現在起起伏伏。我最早不喜歡神經網絡的原因是在于它的不確定性，即最后輸出的結果是不確定的，今天深度學習卷積神經網絡的不確定性依然存在。當時從哲學意義上來講它是一種革新，所以大家很喜歡，到2005年又開始興起，起因是說它好像又非常好，把結果推廣到一些人類的競賽上。其實在美國機器學習學術界依然是兩派，一部分還是看不起深度學習，今天宣傳深度學習更多是工業背景。很多領域都開始嘗試深度學習，包括我們實驗室也做了3-4年，因為所有觀點和意見都要和深度學習方法對比，調網絡調一個月，很多時候是要靠調試員的經驗，因為有不確定性。

說人工智能是洪水猛獸，我更多的是從安全性角度來講。首先它的推動主體是企業，既然它具有不確定性，而且又是企業和資本來推動，我認為這對公眾安全存在問題，不透明，存在黑箱操作的空間。第二，它的技術本身，包括學界對深度學習排斥的一點在于不可解釋性，由于它本身來自于神經網絡，很多時候是靠窮盡局部的采樣特性和不明確的非線性，喪失了理論的簡潔和優美，如果科學的本意是告訴我們這個世界可以認知。相對我們原來竭盡心力，基于數學或者是幾何的原理解釋，理解明確的原因，最近我們兩三年一直在做的動機，現在從事的一些課題，就是希望確實能確認深度學習的可解釋性，同時嘗試從傳統的技術來演化深度機制，二者尋求共同性，單純從神經計算來似是而非的解釋，其實是不負責任的，知識應該是可追朔的，否則這種經驗是不可靠的，工具和方法必須要有原理來支撐！以前我們了解的傳統技術，在控制上都是有因果性來推動，我們希望能發展非常非常簡潔的算法。今天深度學習的算法不具有廣泛的一致性，從應用上，一個具有個性的深度學習算法，需要從小數據移植到大數據上去，也需要一套調試規則來闡述。

今天人工智能的深度學習，最大的推動力不在于算法，而是在于數據。其實現在這些大公司開源算法架構，只是為了占領人工智能的生態，這是商業策略。也就是說數據才是最后關鍵的因素。一個最后的結果，它的不確定性和不可操作性來源于數據，即使同一個數據不同的人操作也不一樣，這就帶來很大的問題：公共安全性，把這運用到生命醫療，現在都認為是最重要的應用，但這方面在美國就很謹慎。我們國家也在推動這方面，也引起關注，各種各樣的數據被共享、被采納。首先，它是把雙刃劍，這東西帶來的危害我覺得會更大。想想看，迄今我們人類一切技術的發展，都是以超越我們人自身的限制作為推動的。那這個大數據共享深度學習會走到哪里去，所有的機器都會聯網，成為單方面龐大的力量，這個力量會決策我們每個人的命運。從倫理講，我不知道這將來會是什么樣一種方式來決定我們個人的命運，因為我們原來所形成的知識是個人可認知和可掌握的，是科學性的，是自由且公平的，這是做研究的最大動力。

今天說人臉識別在什么數據集下到了99%，不停刷性能，學術思想變成了各種排列組合的途徑，這其實沒有任何意義，學術的意義在哪里？首先，我們要認識這個世界，我們想讓自身更自由一些，如果只是為了得到最后的某個結果，其實長遠看沒有什么太大價值。其次，要真實認識人工智能背后的基理所在，如果這個方式不解決，一旦壟斷在一些大公司手里，現在跨國資本聯合，實際上來講是對我們個人的命運可能會很難。真實原因不在于機器，而是人性其實是不可靠的！

機器智能掌握在大資本手里對個人的運營是很難的，如果機器背后產生自覺的智能，如果它的智能（今天，只能說是計算和記憶的能力）確實超越了人類，按照自然法則來講高級智能是可以去除掉低級智能，就像我們人類對地球其他生物正在實施的，沒有什么對等的倫理。機器會不會有自我發掘智能，什么叫靈魂，值得反思！現在各行各業都在做計算機視覺和識別，單純從性能角度講提升都明顯，完全可以融合，決策的性能在穩步提升，這么講吧，人工智能深度學習的感知能力越來越強。更值得注意的是，機器人的動力系統發展也非?？?，結合起來就是一種新的“生物”。這種生物不智能的話（類似某種動物一樣），對我們有不確定的威脅；這種生物有智能的話，那就更具有危險性。也就是說，最后我們所面對的不是倫理上像我們這樣的人。我其實很怕動物，總覺得它們不是我的同類，所以覺得“認為人工智能是洪水猛獸”還是很有道理的，因為對數據的操控性和選擇性，所有的人類能力都在機器人的載體上形成發展，不管是它操控在我的同類人手里，還是即使它有良知，但它具有不確定性和不可解釋性，我都不認為是可以淡定的。因為這種能力的控制性，完全不可靠，而且它會不斷演化和發展。這會給我們這個人類世界帶來極大的不確定性。也許將來，人類的定義需要改寫。

我們現在也開始做一些大數據的信息加密，現在相關國際數據大企業都開始從事這種技術，信息被加密，在加密的基礎上進行大數據的分析和處理，產生的效果要和明文原始信息的分析的效果趨于一致，便于各個機構間的數據共享。由于深度學習依賴于數據，一方面是數據驅動，一方面也要依賴知識的引導來加速計算。

現在的深度學習是數據的大規模計算，但這個計算本身并不帶來知識，因為它只關心輸入和最后輸出的結果。阿爾法GO在人類圍棋領域取得了巨大的成功，它以人類自古而有的棋譜作為標注的數據，以勝負作為最后的得失，所以每一步棋會計算最后勝算的概率。我們人類下圍棋盡管理論上有這么多選擇余地，但其實傳承積累下來的候選空間并不大，阿爾法GO計算得失，還有計算每步棋最后獲勝的概率，這是人類所沒有的。

（本文首發于《探索與爭鳴》雜志微信公眾號：tansuoyuzhengming，熊紅凱在2017年8月28日由上海市社聯《探索與爭鳴》雜志社和華東政法大學政治學研究院共同主辦的“人工智能與未來社會：趨勢、風險與挑戰”學術研討會上的主題發言，發言題目為《人工智能的范式轉換及其發展前景》，澎湃新聞得到授權使用）