2025年初，DeepSeek的問世吸引了無數人的目光，這場技術革新不僅涉及個人與家庭，更影響到國家乃至世界的未來。2月22日，華東師范大學歷史學教授、中國現代思想文化研究所副所長許紀霖與復旦大學計算機科學技術學院教授，上海市數據科學重點實驗室主任的肖仰華，復旦大學中文系嚴鋒教授，在春秋書院圍繞DeepSeek，以及AI的技術革新與應用影響展開討論。

DeepSeek是不是一場震撼全球的技術創新？

許紀霖：我首先想到的一個問題是：DeepSeek是不是一場震撼全球的技術創新？因為DeepSeek剛問世的時候，圍繞DeepSeek有許多爭議。但隨著討論的深入，我們發現雖然DeepSeek的確學習了包括ChatGPT在內的人工智能模型的數據，但兩者是不同類型的模型。

ChatGPT是由“人工神經元”組成的大語言模型，它模仿人的語言、思維，所以需要海量的數據，通過最高級的芯片形成算力，最終形成我們看到的ChatGPT。

DeepSeek走了另外一條道路，它更多借助邏輯推理，形成一個推理大模型，因此它在數據篩選和各個方面，不去依靠強大的算力，而是通過算法上的改變，來取得成功。

在這個意義上，DeepSeek是青出于藍而勝于藍，也是一次成功的再創造。此外，DeepSeek是開源的，它的開源逼迫原本只是閉源的ChatGPT、文心一言等大模型，只能開源來應對DeepSeek的挑戰。可以說，DeepSeek的出現，意味著全球人工智能領域的一次飛躍性的突破。

肖仰華：在春節期間，DeepSeek就曾引起境外媒體，尤其西方媒體的關注。他們對此既好奇，也有疑問——DeepSeek是真的突破嗎？還是噱頭大于實際的宣傳？

作為從業人員，我們第一時間有個基本判斷，認為DeepSeek是有真東西的，確確實實地取得了一系列技術突破。第一，低成本訓練技術。大模型的一次訓練大概要花數千萬美金，甚至上億美金。巨大的成本消耗在算力、電費、數據等等，而且一個版本的訓練往往要消耗近一個月的時間。早期的大模型訓練技術付出了巨大代價，但效果難以得到保證。但DeepSeek通過混合精度訓練、混合專家系統（MoE）、注意力機制優化等技術提升了訓練效率、降低了訓練成本。單次訓練的成本降低到了幾百萬美金一次，是此前主流廠商大模型訓練成本的十分之一。

在低成本訓練的同時，它實現了當前最高水平的智能。在DeepSeek之前，智能水平最高的大模型是OpenAI的o1。OpenAI有一系列大模型，包括我們兩年前見到的ChatGPT，之后的GPT-4一直到o1等。2024年9月，o1的出現可以說是人工智能發展歷程中的一座里程碑。o1做到了什么使得我們要賦予其如此高的評價呢？它第一次讓大模型能夠像人一樣去反思：我剛才想的對不對？我是不是應該嘗試另一條解題路徑？為什么反思的意義非常重大呢？因為這原本是只有人類才勝任的能力，由反思所構成的理性思維能力甚至可以認為是人之為人、人類凌駕于萬物之上的根本能力。

哲學家與教育家約翰·杜威認為人類的思維分為兩類：一類是機械性思維，一類是反思性思維。我們看到3加5，就會想到等于8，不必加以思考，這是典型的機械性思維。我國過去數十年的教育，很大程度就在培育學生的機械性思維能力，最為有效的題海戰術本質上是在培養孩子們的機械性思維。但是，在現在與未來，我們更需要的是具有批判性精神、反思精神的人。其實，杜威在人類的工業文明早期就認為，人類教育的本質是培養具有反思性精神的人，唯有培養具有批判精神、反思能力的新人類才能應對世界的快速變化所帶來的挑戰。

類似的觀點，柏拉圖在2000多年前就曾提出過，他認為人類的思維分成工匠性的思維和大師級的思維。工匠性的思維是機械性的思維，看到這個料子就知道應該怎么加工，想都不用多想。但大師性的思維是能夠反思，它是怎么做的？它為什么這么做？它背后的原理是什么？這叫大師性的思維。大師性思維的反思性是整個人類文明得以傳播與延續的前提。所以人最根本的，或者說凌駕于萬物之上的根本特性就在于我們具有反思性的思維，而OpenAI的o1做到了這一點。

但o1是極其昂貴的，最早要幾百美金才能使用一次。因為當時OpenAI認為o1的反思已經達到專家的水平，用戶只需要將案件丟給大模型，大模型就能像律師一樣進行專業思考而得出結論、給出研判過程；或者大模型能夠像醫生一樣給用戶的檢查報告進行精準的研判與詳細的分析并且給出健康建議。這樣的大模型服務的確價值數百美金，正因其非常昂貴，很少有用戶能負擔得起這個使用成本。

而DeepSeek R1的一個成功之處，就在于它復現了o1并達到其復雜思維特別是反思水平，然而在成本上卻極大地降低，并做到了免費使用，而且對思維過程完全開放。起初，o1的這個思維過程數據是完全公開的，但很快，OpenAI就再次堅定其閉源發展策略，選擇隱藏了整個思維過程數據，這背后是其擔心其他大模型蒸餾它的思維過程數據。但是，DeepSeek R1在短短幾個月就做到了o1水平，并且選擇將思考過程公開。一個選擇封閉，對競爭對手保持高度封鎖；一個選擇開放，對所有人公開自己的思考過程數據。這背后體現的是DeepSeek對自己技術領先性的自信，以及對開源開放戰略全面擁抱的篤定。

DeepSeek對教育的沖擊

許紀霖：嚴老師告訴我，他最關心的是DeepSeek出現以后對教育以及認知思維的沖擊。實際上，這個沖擊是全方位的，每個行業都受到沖擊。特別是大學，我的看法是將重新洗牌，不再是分為985、211、雙一流、普通高校，而是你這個大學能否培養出能夠應用AI從事未來的研究和工作的新型人才。而就業市場也同時將出現類似的洗牌，不再看是否出身名校，而是你應用AI的實際能力究竟如何。每一個人在職場的賽道上，不問出身，將重新站在同一條起跑線上。你意識到了嗎？準備好了嗎？

嚴鋒：剛才肖老師已經講到教育的問題。肖老師提到杜威，他的教育思想非常有名，并且通過他的弟子胡適影響了中國。昨天在一個會議上，我遇到華師大中文系的胡曉明教授。胡老師研究中國古代詩詞，也寫古代詩詞，寫得很好。在好幾年前，他就很關心AI創作的問題，并寫了一系列文章，最新的一篇叫《DeepSeek可以寫好七絕嗎》。胡老師去年去了麥積山石窟，寫了關于佛像的詩。之后，他讓AI也寫同題的詩，他和AI共同探討怎么把詩寫好，這是人機合作進行文學創作的有趣案例，也為未來AI文學的趨勢提供了某種啟示。

作為一位文學研究者，從三年前開始，我就讓AI做極限測試，讓它重寫經典。第一本讓它重寫的就是《三體》，這是中國科幻的高峰，人類想象力的極限。我讓AI沿用《三體》的設定，去想象在這樣的一個星系里的人會怎樣生活。在這個設定中，由于三個太陽的不規則運動，經常會出現水深火熱，乃至毀滅的情況。我讓AI沿用小說的基本設定，但不要使用小說的其他的描寫，而是要寫出不同的故事情節。ChatGPT一開始寫得很差，但一直在進步，到了DeepSeek更有青出于藍而勝于藍的意思。小說不僅關乎邏輯，還關乎情感和想象，是非常復雜的人類活動，我認為這是很有意義的一個測試。

另一個測試，就是讓AI續寫《紅樓夢》。三年前，我讓ChatGPT寫《紅樓夢》，它甚至會寫出賈寶玉跟王熙鳳結婚的故事。現在寫得好多了，但還是比不過DeepSeek。這也好理解，畢竟后者使用了大量的中國的語料。此外，我們還能看到DeepSeek能夠隨心所欲地模仿各種各樣的文字風格。坦白說，我作為中文系教授，還沒有這樣的本領。所以很多人也感嘆，文學要亡，中文系要亡，甚至有人說90%的文科論文要作廢了。

這些說法也不無道理，但是事情并非這么簡單。在我使用AI續寫的過程中，我發現AI很會進行世界構建，各種細節信手拈來，也很善于在語言上進行華麗的修飾，但是看多了就會發現它們是在堆砌辭藻。這固然代表目前AI的水平，但我也在想是否與訓練所用的文學語料有關。畢竟喂給它的是什么文字都有，不可能僅僅是文學經典，所以產出的作品，就目前而言，也就是一些雜燴而已。要讓它寫出具有心靈深度的作品，更是有難度。

所以，對于文學創作來說，就目前而言，AI仍然只是工具性的。可以提供創作的點子，進行頭腦風暴，幫助作者打開思路，但最終進行選擇和整合的，還是人類作者。

隨著AI能力的發展，對整個文學生態必然帶來很大的沖擊。目前AI寫的詩歌已經可以讓很多人類詩人相形見絀了，AI小說也將會淘汰掉一大批平庸的作者，與此同時，普通的讀者也會更輕易地通過AI定制適合自己獨特口味的作品，樂在其中。傳統的作者與讀者的界線將進一步被打破。但這未必是壞事，反而會逼著人類作者專注于創作AI寫不出來的，也就是更有文學性和心靈性的作品。

我們也可以從傳統文學的角度來看AI的發展。美國對于中國的芯片制裁和技術封鎖與《三體》的宇宙社會學不謀而合。宇宙社會學有兩條公理，第一條叫生存是宇宙的第一法則。這很好理解，我們都想活著。第二條，宇宙中的能量有限，它的總量是恒定的，文明對能量的消耗在不斷增長。這兩條公理，看上去很平常，但從這兩條公理中就衍生出黑暗森林法則——文明跟文明只有永遠的對抗，而且這個對抗非常殘酷。就像在一個黑暗森林里面，拿槍的獵人必然要先開槍，因為我無法判斷對方的善惡，我無法承擔猜錯的風險。這引申出兩條補充定理，其中之一是猜疑鏈，必須預設對方是惡意的，因為在宇宙中無法溝通，所以必須預設對方是惡意的。另一條補充定理是技術爆炸，它提出技術發展不是線性的，可能會迎來突變，后發的文明可能超越在技術上比它發達得多的文明。正因為技術爆炸的存在，把猜疑鏈推向極致，讓黑暗森林法則越發黑暗。這似乎也構成了對于現實世界，尤其是大國之間競爭，尤其是AI競爭的某種映射。

許紀霖：日前我和一個詩人討論人工智能寫詩的話題，他告訴我一個有趣的發現：DeepSeek古典詩詞寫得非常好，因為它積累了許多古典詩詞的語料，它的古典文學修養遠遠超過一般的中文系教授。但是，它的現代詩寫得不好，因為現代詩不像古典詩詞那么注重聲韻規則，現代詩的表現力非常自由，甚至在某種意義上是無規律可循，是一種酒神精神的自由飛翔。這就讓DeepSeek有些摸不著頭腦。

在這個意義上，人工智能的創作依舊是有內在限制、有天花板的。它或許可以通過邏輯推演去掌握古典詩歌的規律，但在閱讀了它的一些創作之后，我認為它的創作缺乏一種空靈感。最好的詩詞，像唐詩、宋詞是有意境的，但是我沒有從AI的創作中發現它的空靈感和獨特的意境。看上去很美，但這種美是似曾相識的，是規范的、標準的，就像整容過的標準美人。

AGI（通用人工智能）距離我們還有多遠？

許紀霖：這也引申出下一個話題，自DeepSeek開源以后，人工智能的發展日新月異，幾乎每一兩個禮拜就有新的模型推出。在這樣的背景下，我們距離超越人類的通用人工智能（AGI）還有多遠？

我個人的猜測是，人工智能的下一步突破，是具有身體。因為只有擁有身體，才能擁有直覺能力，才會有真正意義上的想象能力和原創能力。英國大思想家卡爾·波普將人類的世界分為三種，世界1是物理世界，目前AI還不具備感知能力，世界2指的是無法與人的身體分離的直覺和悟性，而現在人工智能所運用的知識，則屬于世界3，也就是可以與人分離的理性知識。只有世界3，通過邏輯的推理對已有的理性知識進行提煉概括，并且上升為AI所擁有的理性認知境界，是有天花板的。真正的突破離不開世界2，而世界2的直覺和想象能力，又必須擁有肉身，對世界1有感知能力。

正如黃仁勛所說，人工智能的下一個階段，就是具身AI。腦機接口技術的普遍運用和仿真機器人的出現，將讓人工智能具有對物理世界的感知能力，并且發展出他的直覺、想象和悟性，到這個時候，AGI時刻就降臨了，硅基生物也將擁有他的主體意識和自我意識，而這一全新的物種“非我族類、其心必異”，他能夠達到的境界，完全不是我們這些碳基生物所能想象的。

肖仰華：許老師提出了非常值得深入思考的問題。我先談談感性的部分，大家剛才都提到了作家和創作。從工科的角度來看，人類的很多創作本質上，是字詞、圖像、音符等內容元素的隨機拼貼。從這個意義上來講，人工智能可以從一個更大內容選擇空間中，或者說更大的創作空間，以人類意想想不到的方式進行組合或者說創作。

在這些組合里面，往往就有我們認為優秀，具備靈感與靈性的內容，有些內容甚至是所謂富有想象力與有創造力的產出。文章本天成，妙手偶得之。優秀的內容從可能性的角度來說早已存在在那里。只不過通過某個作家的靈光一現再現了這個作品，今天藝術創作過程的主體進一步換成了AI。所以，未來的生成性、創作性的工作，AI只可能要比人類做得更好，更加勝任。

但是至于它的作品到底好還是不好，還是完全由作家自己來判斷。它的作品是不是符合你當下的情感需要？是不是符合當前的人類社會的境遇情況？是不是能夠引起某個群體的共鳴、共情？這些依舊是由人類個體或者群體來判斷、評價與選擇。如果做個比喻，未來人類的主要任務就是在AI生成的內容沙灘上去撿貝殼。AI一定能夠創作出最美的圖畫、最動聽的音樂，最動人的故事，最動情的詩歌，但是哪一個作品是最打動人心的？還是由人類依據此情此景、文化習俗、審美標準來評價，來選擇，來解釋。

回到問題本身，AGI是否會到來？這個問題有個先決條件：AGI是什么。人們之所以對此感到困惑，恰恰是因為AGI缺少一個公認的定義。剛才許老師試圖去給出一個定義：AGI是超越個人或者整個人類總體的人工智能。這是一種定義。

如果我們把AGI定義成是超過我們人類的智力水平的AI；而人類智力水平又是基于人類的各種考試與測試所檢驗的，那么可以說在這個意義上AGI早晚會到來。事實上，去年的AI就已經達到了某些省的文科一本，理科二本的水平；今年的AI應該可以在所有人類已知考試中輕松達到人類冠軍水平，通過研究生和博士生的入學考試更是不在話下。

但是反過來說，人類是不是應該因此感到恐慌呢？其實一切所謂的AI到來所造成的恐慌，都是因為人工智能讓大家就覺得人類沒用了。換句話說，AI在沖擊舊的人類價值體系。事實上，未來人仍有其價值，我們真正需要盡快開展的工作是重新定位人在AI時代的核心能力，重建人類的價值體系。

控制論鼻祖維納寫過一本書《人有人的用處》，在當下AI大發展時代，用其書名來提振人類對于自己的信心再恰當不過。人相對機器而言，有很多“不可計算的心智特性”是獨特的。有趣的事實是，這是DeepSeek幫我總結歸納生成的術語。如果仔細思考DeepSeek的運行過程，其本質仍然一種計算過程，是一種基于復雜電磁規律的物理過程。但是人和人相遇則會發生很多化學反應，我們的荷爾蒙分泌之后、多巴胺分泌之后，我們會體會到如沐春風、心潮澎湃等情感體驗。正如泰格爾所說的，我們每個人都應該活成一道光，照亮身邊的人。

這樣一種人與人之間的化學反應，對人際關系的影響，是機器所不可代替的。人類身上還是有很多不可計算、難以計算的特性是機器無法代替的。相信要不了多久，機器人就能走進家庭、料理家務、護理老人。但是機器再精細而準確的服務，也代替不了來自兒女的對老人的一句深情問候；機器再如何完美的情感陪伴，也代替不了來自同類的一次愛撫與擁抱。這就是人不可計算的特質。

從這個意義上來講，AGI永遠實現不了。它或許能在一切由物理過程所決定的方面，遠遠超過人類；但在一切需要化學反應的地方，無法比肩人類。那么又有人會說，我們可不可以給機器也植入一些類似多巴胺的化學要素？比如，有一些公司已經在設計仿生材料的人形機器人等等。或者反方向的研究對生物神經元的算法操作。如果這樣的實驗和設計成真，那么未來AI可能就會成為新的生命物種，就像《西部世界》中描繪的那樣，對于這類物種我們可能要賦予它與人類對等的地位。

許紀霖：這在法律上有禁令嗎？

肖仰華：非常好的問題。在我看來，這一步是不應該邁出去的，除非你想攪亂這個世界。這是非常危險的一步，在某種意義上就是造人。

但是如果我們把時間尺度拉長，我們還要有一種擔心：我非常同意許老師提到的身體的重要性，但身體同樣是一種禁錮，使靈魂禁錮在身體內，而且身體是會滅亡的。所以我們才會去尋求有限生命的無限意義。人類追求意義的源頭是強烈的自我意識，正是有限、短暫的身體激發了人類這個物種存在、生存和延續的內在需求，進而產生了強烈的自我意識，然后有了物我兩分，并產生各種紛繁的意義。可以說，整個人文和社會學科都建立在這一基礎上。

大家可能會設想這樣一個問題：除了擁有身體之外，AI還需要具備哪些條件，才可能誕生人類水平的自我意識呢？這實際上是非常值得去嚴肅思考的。意識的誕生條件究竟是什么？這是科學家哲學家尚未能夠清晰回答的問題。我認為可能有幾個條件：一個是要有身體。第二個是要有群體，也就是某種智能體要有一定的規模。第三個是要去進化，要在環境中去試錯，去反饋和進化。智能本質上是有環境塑造的。目前地球上只有人類這個物種達到了高水平的意識，有些動物也具備了初步的、一定的自我意識，但是要形成人類水平的意識需要依靠上述幾個條件：要有身體，要有群體，在一個漫長的進化時段去進化，通過漫長的為了生存而奮斗的實踐，才可能激發出較高的意識水平。

當然，人的意識問題并沒有得到完全解答，自我意識的誕生還有一些神秘之處。哲人們似乎一直保留了一定程度的對未知的敬畏，從未排除某種更高級存在為人類包括萬物設定了基本的智能進化規則的可能性。嚴老師剛才提到，所有的物種都有著內在的追求生存和發展的傾向，那么或許有人會問為何創世之初不是相反的設定呢？為何不是內在毀滅的傾向呢，這種設定也有待反思。如果假定某種更高級的存在預先做好了種種設定，則容易理解與解釋很多智能現象。

其實今天的AI發展已經非常接近人類的激發方式，DeepSeek R1復雜思維能力是通過強化學習算法習得的，是在可能的思考空間進行探索、試錯，以求得盡可能優的解決方案。這種智能的習得機制非常接近人類智能進化機制。R1的強化學習甚至自發發現了新穎的反思模式，也就是所謂的“Aha moment”，這就好比人類的頓悟，經過苦思冥想后突然靈感迸發。整個R1的學習過程完全是其基于強化學習的自主學習，整個學習過程是無人干預的。人類唯一的干預只是設定強化學習過程中對思維方案的好壞判定的基本規則。我們通過設定一個簡單的判定目標，AI就能自主找到最優的思考路徑。將來，這個來自外在的設定完全可以簡化為讓AI智能體盡可能生存和延續，就好比科幻作者阿基莫夫為機器人設定的三定律。從長遠來看，人工智能或許有可能會進化到接近某種生命的形態，因此對于其進化過程中是否會發展某種程度的意識水平是需要嚴肅研究與監管的。

但必須強調的是， AI發展到這個階段，我們要嚴肅地思考，關于人工智能的發展究竟會帶來什么。表面上看，人工智能是生產力，但它的生產力和破壞力同樣巨大。我們真的想親自去創造一個挑戰人類的新物種嗎，更何況這個新物種要比你強大得多。但悲觀地來看，人類社會往往只有經過重大的災難才會去嚴肅反思。這就是為什么人工智能的監管如此重要。

嚴鋒：我剛才聽了很感動，肖老師不光是硬核的專家，前沿的研究者，也有很溫暖的人文關懷。但是，關于人類的不可計算的心智特性，其實我是有一點懷疑的。因為現在有一些人工智能的應用，已經演變為心理治療師、撫慰者，甚至作為一個虛擬的性伴侶。更令人吃驚的是，現實中很多人沉迷于跟ChatGPT對話，甚至覺得人工智能所扮演的角色，要比現實當中的更好。我們原本以為心靈是人類最后的防線，但現在人工智能可以說比我們更了解我們自己，這對于人類的心靈性也是一個挑戰。這也是對技術發展與監管挑戰。

許紀霖：剛才肖老師有一句話是很令人震撼的。AI有多大的創造力、生產力，就有多大的破壞力。這和原子彈、核技術是一樣的。

在ChatGPT出現以后，出現了技術加速主義和與人類對齊的對齊主義的大爭論。在Open AI公司內部，還因此發生了一場宮斗劇。但DeepSeek出現以后，似乎技術加速主義占了上風，對齊主義的聲音反而比較微弱了。然而，因為開源，在AI技術飛速發展的當下，AI的破壞力將更大，道高一尺，魔高一丈。我們應該怎么去看待AI的破壞力？在未來AI普遍開源的背景之下，又如何處理技術發展與人類對齊的平衡呢？

肖仰華：自AI問世的第一天起，關于人工智能加速與對齊、發展與監管的討論就從未停止。但自DeepSeek問世以來，業界漸有全面擁抱加速而忽略對齊的傾向。近日，法國的人工智能峰會上，美國副總統萬斯在發言中表示：美國要成為全球人工智能競爭中的領導者，要將人工智能發展變成美國再次振興、再次偉大的生產力，并且明確反對關于人工智能的對齊與監管。

回到國內，我們多還沉浸在能夠用上最先進大模型的喜悅中。有媒體稱借助DeepSeek，耗費人類10年的繁雜政務工作，DeepSeek一天就做完了，這是生產力的巨大提升。歸根結底， DeepSeek讓最先進的大模型技術平民化、普惠化，讓老百姓用上最先進的大模型，享受到AI帶來的便利。這當然會讓整個社會感到欣喜。

但同時，我們也要認清AI可能帶來的各種問題，做好相應的防范和治理工作。有些人認為，所謂AI風險不過是危言聳聽。但事實上AI應用帶來的問題，已經發生在我們的日常工作與生活中。比如各位專家學者辛辛苦苦發表論文、出版著作，但AI可能在未獲得你的授權同意下直接學習其中內容。我最近就發現，AI關于某些問題生產的內容，和我曾經寫過的文章觀念非常相似，但它重新組織了內容形式，避免出現大段或連續的原文內容，規避了抄襲和侵權的指控。作者們只能是有苦說不出。

另一方面，AI也可能抓取到一些在網絡上的隱私信息。比如一些教師在教學中分享給學生自己的個人信息，結果被AI抓取并被大模型學習，使得任何普通用戶都可以通過提問接觸到這些隱私信息。這些問題已經在發生，只不過我們可能還沒有意識到。

比這些問題更可怕的，是AI的大規模濫用和誤用。比如現在很多地方政府、教育管理部門鼓勵小學生、中學生使用AI，這個原則并沒有錯誤，但我們有沒有思考清楚，在教育中究竟應該怎么使用AI？我看到很多學生用AI寫作業、寫報告，學生們交上來的作業與報告“含AI量”越來越高。作業與報告本身的目的是鼓勵孩子的獨立思考；如果我們不去監督孩子的獨立思考，放任其對AI的使用，學習者的相應能力就無從發展。所以我們在鼓勵AI發展的同時，一定要想清楚其中的細則，比如在教育中哪些場景可以用，哪些場景不能用。我在教育方面，一直堅持一條原則：重教輕學。涉及教的環節，大膽使用AI，把老師們從繁重的備課、閱卷、出題里解放出來。但到了學生學的環節，就要謹慎使用AI，避免其形成AI依賴。

另外一個非常迫切的問題，就是AI對就業結構的重組造成的沖擊。目前的就業結構已經跟不上AI發展步伐，有大量的傳統職業要被淘汰。第一波受到大規模沖擊的，就是程序員。這兩年互聯網大廠裁的都是程序員，因為現在AI寫代碼準確率越來越高。以AI現在水平基本上可以減少40%左右程序員崗位需求，這個趨勢只會愈演愈烈。除此之外，無人車去年在某些城市的使用也對網約車司機、出租車司機等崗位帶來巨大沖擊；類似公務員的文案工作，以及窗口型服務工作，也將很快被AI取代。

有一些人認為，AI時代會創造很多新的就業機會，因此擔心AI的就業沖擊是杞人憂天。首先我們要承認，AI的大規模使用一定會創造全新的就業機會，比如大模型“煉丹師”，也就是大模型訓練工程師。但問題的關鍵在于，AI創造新的就業崗位的速度遠遠慢于AI毀滅舊的工作崗位的速度。AI的過速發展并沒有給我們人類社會結構、就業結構的緩慢轉型留下充足的時間。這就是當下時代的最根本的矛盾，而這個矛盾會引發大量的問題。

或許會有人說，AI發展速度會慢下來。我的預測是AI發展只會加速。因為AI研發與大規模應用有政府與資本推動。作為新興技術革命的代表、作為新質生產力，AI浪潮是時代發展趨勢，是不可阻擋的，關系到國家競爭，決定民族興亡，是不容錯失的重大發展戰略機遇。同時，資本逐利的本性，勢必要求AI產業的大規模投入得到變現。AI的大規模應用，像水、電、通信網絡基礎設施一般的大規模應用勢在必行。

在這一過程中，很容易出現AI濫用。AI大規模濫用帶來的問題，包括教育升級、經濟結構轉型、人力資源市場調整，甚至社會關系革新都需要時間。人類社會的一切上層建筑的調整都是緩慢的、經不起震蕩，唯有溫和變革才能維系全社會穩定。AI的過速發展和人類社會結構的緩慢調整之間的矛盾，怎么去調和，這都是我們需要去思考的問題。

如果我們不想深度思考并積極應對這些問題，AI就可能給我們帶來人類難以承受的損失。一旦AI帶有破壞力的一面被放大，那么AI本身也就無法持續發展。AI的可持續發展能力，才是一國AI時代最核心的競爭力。

在我看來，開源進一步放大了發展與監管之間的矛盾。開源讓先進大模型人人可用。人人可用也就意味著不良用心的人也可以使用先進大模型欺詐、造謠、作假，甚至制造武器，危害社會。如果只是把矛磨得越來越尖銳，盾不夠厚實，那么社會就一定會失衡。所以，面對越來越尖銳的矛，我們一定要鑄造越來越厚重的盾，才能做好AI的可持續發展。隨著開源的發展，我們更需要更加迅捷和有力的監管和治理工作。總體上，目前的治理與監管工作跟不上AI應用速度。這個矛盾有可能正在醞釀一些潛在風險。

或許會有人說我們完全可以先發展再治理。互聯網發展我們就是如此得到實惠的。然而，AI不同于互聯網。AI是以全面發展人類水平的心智能力，并取代人類的同等水平所能勝任的大部分人類工作為目的的。AI大模型濫用可能會造成積重難返的困境。事實上，即便我們反思先發展再治理的互聯網現代服務業，我們仍然能夠發現一些其發展所帶來的代價。比如我國有著全世界最先進的互聯網外賣服務業，但也造成了大量的宅男腐女，加速了低生育時代的到來。諸如此類種種問題，我們不能因為發展而選擇性忽略。事實上，發展AI最大的風險，恰恰是大部分人尚未意識到它的風險，而只關注它作為先進生產力的那一面，忽略了其破壞性的那一面。正確的態度是在大力發展AI先進生產力的同時，以前所未有的積極姿態未雨綢繆做好應對與預防。

許紀霖：的確，今天我們都沉浸在一片歡欣鼓舞當中，但AI可能對人類帶來各種威脅。就像核技術出現以后，并未像奧本海默所期望的那樣，被導向善的用途。今天，是又一個“奧本海默時刻”。即使意識到AI的破壞性，因為發達國家的競爭，現在成為了AI的軍備競爭，誰掌控了AI的頂尖技術，誰就擁有全球的霸權，無論從科技、金融、制造業，還是從軍事來說，都進入了一個以AI為核心的全方位競爭。一旦陷入了以國家利益為中心的非理性競爭，那么全人類的利益便被擱置了。說得稍微過分一點，人類的未來敵人（硅基生物）已經在敲門了，但碳基生物還在忙于內斗，不知大禍臨頭，或者即使知道了，也只顧眼前的國家霸權。

嚴鋒 ：就像肖老師說的，一些人甚至可以用AI寫出惡意代碼，流氓軟件，堪比撬門撬鎖。這非常可怕，但是我們抵擋不住。

還有一個問題，我作為老師更加感同身受，就是學生對于AI的依賴。尤其是在閱讀學生上交的論文過程中，教師怎么知道學生寫了多少？怎么知道學生有沒有學進去？這里面是不是存在教育的退化？如果所有的答案都是現成的，學習就不復存在，最終人類就會退化。

我甚至在想，以后可能我們需要更多的線下教學。包括新聞也是如此，更需要身在現場的調查記者。現在打開某些網站的首頁，很多都是AI寫的內容，非常無聊，甚至誤導，但至少目前我們還能夠分辨。將來隨著技術進步，生成的視頻、圖像都能夠以假亂真，所謂的后真相時代和信息污染將造成巨大的危害。

那怎么保護好自己？我覺得我們要小心網絡。我現在相信生活的三個H，第一個H是Health，就是健康，身體和心理的健康。第二個H是Happy，光有健康還不夠，還要Happy。第三個H是Hidden，隱藏。這也是三體給我的啟示，就是人類面對AI的風險，我得隱藏好自己，保護好自己的個人信息。要了解、學習、掌握如何隱藏。我認為我們甚至要回到傳統當中，減少網上的曝光，不要讓AI輕易地找到你。

如何釋放創造力？

許紀霖：差不多一年多前，我們與肖老師聊過中國的AI和ChatGPT的差距有多遠。當時肖老師說，其實中國在數據方面是有優勢的，算力方面也不差。但真正有距離的，是中國的AI公司的軟實力，那種內在的組織形態。

今天許多國企、互聯網大廠的辦事程序之繁瑣，開會之頻繁，都讓我非常驚訝，在這樣的環境下很難激發出員工的創造力，產生真正的技術創新。谷歌這種大廠之所以還有創新，是通過收購初創公司，讓它們獨立運作。今天DeepSeek的成功，在我看來，很重要的是公司的組織形態與眾不同。首先幻方不差錢，不用看投資方和股東的臉色，其次梁文峰讓公司招來的頂尖人才，不陷入各種程序和規范的約束。激勵他們的好奇心，提供給他們充分的個人自由，與其說是一個公司，不如更像一個研究院，內部充滿了松弛感。

我現在的問題是：DeepSeek的成功是偶然、不可復制的嗎？還是說，國內已經存在這么一批有潛力的初創公司，只要政府不去過多地干預，就能爆發出驚人的能量？

肖仰華：我覺得這是一個非常好的問題，最近大家也展開了很多相關的討論與反思。為什么DeepSeek誕生于杭州，而不是北上廣深這些大城市？為什么是民營企業在人工智能方面取得突破，而不是有大量投入的科研院，或者國企、央企在這方面有所突破？這些反思都有其價值。

實際上我們去看DeepSeek的成功，它有一定的必然性。這種成功得益于很多因素。第一，DeepSeek是初創企業的成功，整個公司也就一百多人。這個階段的公司，和人類的發展過程中的兒童階段一樣，保持著最強的好奇心和創造力。過早地掐滅孩子的好奇心和創造力，進入某種模式化的教育，就是在毀掉難能可貴的創新精神。

所謂的大公司就好比成年人，大部分人成年后，已經喪失了創造力和好奇心。梁文峰一直在非常小心地呵護團隊的創造力和好奇心，讓他們勇于探索，敢于探索，最終才能有DeepSeek這次突破和創新。我認為全社會都需要努力為他們創造環境，去呵護這種創造力。

第二個點就是杭州的營商環境，能夠保證所有公司在相對寬松與公平的環境野蠻生長。在科技創新方面，太過細致的政策，太過詳細的計劃，反而可能壓制了創新的涌現。偉大往往無法被計劃。另一方面，一些地方的種種扶持政策帶來了頭部企業的資源傾斜，反而擠占了同行業其他企業發展機遇和空間。

還有一點是許老師剛剛提到的，DeepSeek是自給自足的，它不需要背負投資人的期望，以及變現的壓力。我們可以想象，某些初創企業在投資壓力下，一定會選擇最穩妥的道路，也就是復制成功者技術道路；一定不敢去試錯，因為沒有時間和機會去試錯。但偉大的創新一定是通過不斷試錯后得出的。我們理應要鼓勵試錯，寬容失敗，但很多投資是不允許失敗的，被投企業又怎敢大膽嘗試呢？

當然，我們也要意識到中國的優勢。第一，我國在先進技術的成本控制方面非常有經驗。從高鐵技術，到新能源汽車，到光伏，再到大模型，控制與持續降低成本能夠幫助我們建立更大的市場競爭優勢，占領更多的全球市場。第二，我國在人工智能發展的基礎設施方面要優于美國。前段時間，美國啟動了名為“星際之門”的AI開發聯合出資項目，投資達到五千億美元，建立AI開發的數據中心。這也說明美國意識到了人工智能基礎設施的重要性。但在集中力量辦大事、在人工智能基礎設施建設等方面，我國更具優勢。最后，在統籌發展方面，我們占據優勢。美國的政體決定了兩黨之間的互相拉扯，長期政策延續性差，缺乏統籌和規劃。但AI的發展離不開高效率政府的統籌和規劃。我國在激活數據要素價值、在AI治理與監管方面都有著統籌發展方面的優勢。因此，只要保持寬松、寬容的創新創業環境，我們有理由相信中國人工智能終將很快走上一條高速、可持續發展的道路。