在人工智能快速發(fā)展的當下，如何平衡推進其應用與治理？3月26日，在博鰲亞洲論壇2025年年會上，各界專家對該問題進行了探討。

“在廣泛運用Agent（智能體）之后，AI的安全風險至少上升了一倍。”清華大學講席教授、清華大學智能產業(yè)研究院（AIR）院長、中國工程院院士張亞勤在會上表示，“智能體是很好的技術，它能夠自我規(guī)劃、學習、試點并達到自己的目的，但它本身會帶來很大的風險，一種是可控風險，一種是被‘壞人’所利用的風險，風險增加了兩倍。能力越大，它帶來的風險越高，特別是AI從信息智能到物理智能到生物智能，風險會增加很多倍，我們在用智能體的時候需要設置一些紅線。”

AI應用與治理平衡推進論壇現(xiàn)場。 澎湃新聞記者 秦盛 攝

中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅表示：“去年我和張亞勤老師討論是不是應該暫停6個月的人工智能大模型研究，先把安全護欄做好，很多人都誤解了這樣的倡議，以為是不要推進人工智能的研究。其實這個倡議告訴大家的是我們構建安全護欄的速度沒跟上人工智能發(fā)展的速度，但是去年的博鰲論壇上，全世界的科學家對于如何構建安全護欄是不知道答案的。但是經過了一年的探索，我們有了初步的答案。”

曾毅表示，模型能力提升并不代表安全能力自然地就好，現(xiàn)在有很多人工智能大模型，包括國內的人工智能大模型，在認知問題、求解能力上與GPT系列可以達到同一水平，但在倫理框架上還有提升空間，“我們有一項新研究證明，當你提升人工智能大模型安全能力的時候，對它求解能力的影響幾乎可以忽略。我們嘗試了十幾個人工智能大模型，可以把它的安全能力提升百分之二三十，對它的問題求解能力的影響幾乎可以忽略，這說明安全和發(fā)展之間不是掣肘的關系，可以做到在人工智能充分安全的情況下，它的能力幾乎不受損”。

他再次強調，去年大家都重視人工智能的安全，而今年，倫理安全應該作為人工智能大模型發(fā)展的基因，應該作為第一性原理，不可刪除，不可違背，同時可以做到穩(wěn)健發(fā)展。

中國社會科學院大學教授、國務院原副秘書長江小涓表示，AI治理如何落地、如何實踐是目前最大的挑戰(zhàn)，“過去很多年我對AI治理方面的進展是很遺憾的，我覺得進展是很有限的，從十年前阿瑟馬人工智能原則提出來一直到現(xiàn)在，這個原則已經討論十年了，一個月前巴黎峰會的六項原則依舊是繼承了過去的這些原則，但是落地非常有限”。

江小涓認為，需要把問題分成可以落地的方向來推進，從經濟學家的角度來看，一項技術是否可以接受其實只有兩個標準，一是能不能帶來生產力的提高，使其創(chuàng)造更多的財富，二是發(fā)展的結果能不能比較公平地分享。

“從這兩個原則來講，AI的發(fā)展第一沒有問題，肯定是提高勞動生產率了，但是第二個問題是不是能夠比較好地被社會所有成員分享，這個問題劃到經濟學角度上講比較簡單，就是就業(yè)是不是充分，分配是不是公平。如果這兩個問題不能解決的話，我們有什么替代的政策，比如就業(yè)的沖擊出現(xiàn)后我們應該有新的社會保障政策來執(zhí)行它，而不是一再重復那些不能落地的原則。每個時代有每個時代的價值觀，當技術使這些價值觀必須改變的時候，我們要改變它，而不是一再地重復包容、共享，它是落不了地的。”江小涓如是說。

對于DeepSeek帶來的影響，江小涓認為，DeepSeek在從經濟學的角度上來講使人們對AI大模型發(fā)展的擔憂有所減輕，把AI從壟斷變成了真正競爭的產業(yè)，從技術化的能力變成產業(yè)化的能力，形成了傳統(tǒng)市場經濟中的競爭格局，“我非常相信在競爭中，市場自發(fā)會解決很多問題，而不一定要我們那么高層地去討論非常多的原則問題”。