·“現(xiàn)在是東西方共同努力的時(shí)候。人工智能的發(fā)展將改變大國(guó)之間的關(guān)系。而中國(guó)處于一個(gè)為人工智能的安全和明智治理做出貢獻(xiàn)的獨(dú)特位置。對(duì)比中國(guó)、歐洲和美國(guó)，中國(guó)迄今為止在監(jiān)管人工智能方面做得最多，歐洲第二，美國(guó)第三。

麻省理工學(xué)院（MIT）人工智能與基礎(chǔ)交互研究中心教授、未來生命研究所創(chuàng)始人邁克斯·泰格馬克（Max Tegmark）。

6月9日，麻省理工學(xué)院（MIT）人工智能與基礎(chǔ)交互研究中心教授、未來生命研究所創(chuàng)始人邁克斯·泰格馬克（Max Tegmark）在2023北京智源大會(huì)上發(fā)表主旨演講，談及為何當(dāng)下對(duì)人工智能的擔(dān)憂變得更加必要和緊迫，以及要如何控制人工智能。

泰格馬克表示：“人工智能將改變大國(guó)之間的關(guān)系。過去，當(dāng)人們只關(guān)注人工智能給予力量這一方面時(shí)，每個(gè)人都爭(zhēng)相競(jìng)逐它。但一旦人們開始認(rèn)識(shí)到這可能會(huì)終結(jié)地球上的所有文明時(shí)，想法就會(huì)發(fā)生變化。與其把它看作一場(chǎng)軍備競(jìng)賽，不如將其視為一場(chǎng)自殺式競(jìng)賽。無論誰先獲得不可控制的超級(jí)智能，每個(gè)人都將在那時(shí)滅亡。因此，我認(rèn)為現(xiàn)在是東西方共同努力的時(shí)候，建立合作伙伴關(guān)系而不是競(jìng)爭(zhēng)關(guān)系，以確保我們能夠控制人工智能的發(fā)展。”

對(duì)比中國(guó)、歐洲和美國(guó)，泰格馬克認(rèn)為中國(guó)迄今為止在監(jiān)管人工智能方面做得最多，歐洲第二，美國(guó)第三。他透露，未來生命研究所與歐洲的政策制定者進(jìn)行了大量合作，包括現(xiàn)在正在推進(jìn)的歐盟《人工智能法案》。

未來生命研究所（Future of Life Institute）成立于2014年，致力于研究如何最大限度地減少日益發(fā)展的人工智能技術(shù)可能帶來的危害。今年3月，該機(jī)構(gòu)官網(wǎng)發(fā)布了引起熱議的“暫停AI研究”公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI至少半年，包括特斯拉CEO馬斯克在內(nèi)的超過1100名科技人士在公開信上簽名。

作為這一倡議的發(fā)起人之一，泰格馬克談?wù)撊绾慰刂艫I的話題并不令人意外。但有趣的是，泰格馬克多次表示，自己并非“深度學(xué)習(xí)三巨頭”之一楊立昆（Yann LeCun）所說的“doomer”（認(rèn)為世界正走向毀滅的人），反而他認(rèn)為，“擁有比我們聰明得多的智能體并非沒有可能。前提是我們可以證明它是安全的。”

人工智能已經(jīng)接近能愚弄人類的水平

如何控制人工智能，確保它為人類服務(wù)而不是對(duì)抗人類？泰格馬克認(rèn)為這需要解決兩個(gè)主要問題。

第一是對(duì)齊（alignment），即確保人工智能按照其控制者的意愿行事。第二，使全球各組織、公司和個(gè)人保持一致，確保他們的動(dòng)機(jī)是將人工智能用于善事而非惡事。“如果我們只解決了第一個(gè)問題并廣泛應(yīng)用非常強(qiáng)大的人工智能，那么我們可能會(huì)面臨這樣的情況：恐怖分子或其他希望控制世界并執(zhí)行我們不希望看到的行動(dòng)的人，可以利用這項(xiàng)技術(shù)。”泰格馬克說。

實(shí)際上，人類對(duì)于能否控制人工智能的擔(dān)憂早已存在，早在艾倫·圖靈時(shí)代，就有人表示擔(dān)憂。過去9年里，包括泰格馬克在內(nèi)的許多人，如物理學(xué)家史蒂芬·霍金、加州大學(xué)伯克利分校人工智能系統(tǒng)中心創(chuàng)始人斯圖爾特·羅素和2004年諾貝爾物理學(xué)獎(jiǎng)獲得者弗蘭克·威爾切克等，都曾對(duì)這個(gè)問題表示擔(dān)憂。

但泰格馬克強(qiáng)調(diào)，現(xiàn)在的擔(dān)憂更加緊迫，因?yàn)槿斯ぶ悄芤呀?jīng)接近能夠愚弄人類的水平，即人工智能通過圖靈測(cè)試。換句話說，人工智能可以掌握語言，這在過去被許多研究人員認(rèn)為標(biāo)志著其非常接近人類所能做到的一切。

但是，對(duì)于未來人類在理解AI系統(tǒng)方面的能力，泰格馬克表示他實(shí)際上比楊立昆更加樂觀。“我認(rèn)為，如果我們?nèi)偾斑M(jìn)，將更多的控制權(quán)從人類手中交給我們不了解的機(jī)器，那人類世界將以非常糟糕的方式結(jié)束。但我們不必那樣做。如果我們努力研究機(jī)械可解釋性（研究人類知識(shí)如何儲(chǔ)存在神經(jīng)網(wǎng)絡(luò)的復(fù)雜連接關(guān)系里，最終解釋大語言模型為什么會(huì)產(chǎn)生智能），以及許多其他技術(shù)主題，我們實(shí)際上可以確保這些更強(qiáng)大的智能為我們服務(wù)，并用它來創(chuàng)造一個(gè)比科幻作家過去夢(mèng)想的更加鼓舞人心的未來。”

人工智能發(fā)展將改變大國(guó)之間的關(guān)系

對(duì)于此前發(fā)出的“暫停AI倡議”，泰格馬克澄清道，其目的并非是暫停人工智能研究，而只是暫停開發(fā)比GPT-4更強(qiáng)大的系統(tǒng)，暫停的目的只是讓人工智能像生物技術(shù)一樣有一定的安全審查。在生物技術(shù)領(lǐng)域，一家公司發(fā)明一款新藥后并不可能隔天就讓產(chǎn)品出現(xiàn)在各大藥店，而是首先要說服政府的專家它是一種安全的藥物、好處大于壞處，經(jīng)歷審查后才可以向大眾售賣。

那么如此會(huì)破壞創(chuàng)新嗎？泰格馬克反問道，“當(dāng)然不是。其實(shí)恰恰是對(duì)危險(xiǎn)品的監(jiān)管太弱，反而經(jīng)常破壞創(chuàng)新，比如民用核電，這方面的投資基本上已經(jīng)崩潰，至少在福島事件之后的西方是這樣。”

泰格馬克認(rèn)為，人工智能的發(fā)展將改變大國(guó)之間的關(guān)系，而中國(guó)處于一個(gè)為人工智能的安全和明智治理做出貢獻(xiàn)的獨(dú)特位置。

“中國(guó)是世界領(lǐng)先的科技大國(guó)，所以它可以幫助領(lǐng)導(dǎo)研究。同時(shí)不僅是關(guān)于如何讓AI變得強(qiáng)大，還有如何讓它變得更加魯棒（robust）和值得信賴。由于中國(guó)的國(guó)際影響力與其啟發(fā)和塑造全球人工智能議程的能力同步增長(zhǎng)，中國(guó)的聲音真的很重要。就在上周，我非常高興看到中國(guó)的全球安全倡議明確談及預(yù)防人工智能風(fēng)險(xiǎn)。”

據(jù)泰格馬克透露，未來生命研究所與歐洲的政策制定者進(jìn)行了大量合作，比如歐盟《人工智能法案》。“如果我們能夠幫助歐洲提出真正明智的監(jiān)管措施，美國(guó)很可能會(huì)效仿。我們?cè)跉W盟GDPR（通用數(shù)據(jù)保護(hù)條例）中看到了這種情況。例如，美國(guó)人并不想為了隱私而做任何類似的事情，但在歐盟通過這些法律后，美國(guó)人收到的垃圾郵件也開始減少，GDPR所提及的內(nèi)容也開始在美國(guó)越來越流行。”他說。

泰格馬克給人工智能領(lǐng)域研究者的建議是專注于基礎(chǔ)知識(shí)，因?yàn)榻?jīng)濟(jì)和就業(yè)市場(chǎng)的變化會(huì)越來越快，“我們正在擺脫學(xué)習(xí)10年或20年然后余生都做同樣事情的模式。更重要的是，在扎實(shí)的基礎(chǔ)之上，要有創(chuàng)造性和開放的思維。當(dāng)然，要關(guān)注整個(gè)人工智能領(lǐng)域正在發(fā)生的事情，而不僅僅是在自己的領(lǐng)域。因?yàn)樵诰蜆I(yè)市場(chǎng)上，首先會(huì)發(fā)生的事情不是人被機(jī)器取代，而是不與人工智能打交道的人將被與人工智能打交道的人所取代。”