撰稿：汪詰 王木頭

未來(lái)的某一天，人工智能“天網(wǎng)”覺醒，它制造出可怕的機(jī)器人，代號(hào)“終結(jié)者”，企圖消滅所有人類，但人類在約翰·康納的帶領(lǐng)下，與終結(jié)者進(jìn)行著殊死搏斗。天網(wǎng)制造出了時(shí)間機(jī)器，派終結(jié)者去殺死約翰·康納的母親以阻止康納的出生。

這就是我小時(shí)候最愛看的科幻電影《終結(jié)者》的故事背景。我當(dāng)時(shí)就在想，既然這樣，那么人類也可以派出特工回到過去，阻止發(fā)明 AI 的那位關(guān)鍵科學(xué)家，這樣，天網(wǎng)就不會(huì)，至少不會(huì)那么快就誕生了。

假如科幻成真，人類應(yīng)該回到哪一年？又該去阻止哪位科學(xué)家呢？

2024年10月8日，諾貝爾獎(jiǎng)委員會(huì)給出了答案——未來(lái)人應(yīng)該回到 1982 年，去找一位名字果然也叫約翰的物理學(xué)家，他的全名是約翰·J·霍普菲爾德（John J. Hopfield）。然后，再去找一位叫杰弗里·E·辛頓（Geoffrey E. Hinton）的科學(xué)家。阻止他倆，就能阻止（至少是大大減緩）人工智能的發(fā)展。

兩位獲獎(jiǎng)?wù)?/p>

這兩位科學(xué)家就是 2024 年諾貝爾物理學(xué)獎(jiǎng)的獲獎(jiǎng)人，或許，諾獎(jiǎng)委員會(huì)在用這種方式給未來(lái)人拯救人類提供關(guān)鍵線索。

那么，他們倆到底對(duì)人工智能的誕生做出了怎樣的貢獻(xiàn)呢？我一個(gè)個(gè)來(lái)說(shuō)。

約翰·霍普菲爾德老爺子 1933 年出生于美國(guó)芝加哥，今年已經(jīng) 91 歲高齡。他 25 歲在康奈爾大學(xué)獲得物理學(xué)博士學(xué)位，28 歲到加州大學(xué)伯克利分校教授物理學(xué)，開始了自己的物理學(xué)生涯。1982 年，他 49 歲，說(shuō)實(shí)話，這對(duì)于搞理論的物理學(xué)家來(lái)說(shuō)，已經(jīng)算是高齡了，學(xué)術(shù)的黃金年齡已經(jīng)過去。但是，對(duì)于約翰·霍普菲爾德來(lái)說(shuō)，這一年卻是他產(chǎn)出最重要成果的一年。這一年，他提出了“霍普菲爾德網(wǎng)絡(luò)”模型，首次將物理學(xué)中的統(tǒng)計(jì)力學(xué)原理引入神經(jīng)網(wǎng)絡(luò)，開創(chuàng)了人工神經(jīng)網(wǎng)絡(luò)中的關(guān)聯(lián)記憶概念。

霍普菲爾德神經(jīng)網(wǎng)絡(luò)

實(shí)際上，在霍普菲爾德之前很多年，神經(jīng)網(wǎng)絡(luò)的基本雛形就已經(jīng)被提出了。我們把模擬人類大腦神經(jīng)元的工作機(jī)制的計(jì)算機(jī)算法模型稱為神經(jīng)網(wǎng)絡(luò)模型。人的大腦中擁有海量的神經(jīng)元細(xì)胞，這些細(xì)胞長(zhǎng)得就像有很多觸手的章魚，神經(jīng)元與神經(jīng)元之間的觸手可以相互連接，也可以斷開。我們每個(gè)人的大腦中神經(jīng)元細(xì)胞的總數(shù)大體差不多，但是，我們每個(gè)人大腦中的神經(jīng)元的相互連接方式卻是獨(dú)一無(wú)二的，而且，這些神經(jīng)元之間的連接方式在我們的成長(zhǎng)過程中，也在不斷地產(chǎn)生變化。神經(jīng)元之間的這種網(wǎng)狀連接結(jié)構(gòu)存儲(chǔ)了我們的記憶，而我們每個(gè)人的思想，不過是電信號(hào)在這些無(wú)窮無(wú)盡的神經(jīng)元中游走所涌現(xiàn)出來(lái)的一種現(xiàn)象。

模擬人腦神經(jīng)元的工作機(jī)制來(lái)實(shí)現(xiàn)人工智能是比較容易想到的一種方式，不過，這只不過是眾多 AI 實(shí)現(xiàn)流派中的一派，甚至是并不被特別看好的一派。這是因?yàn)椋幸粋€(gè)天然的劣勢(shì)，就是需要的計(jì)算量非常龐大。因此，這一派一直在努力提高算力的使用效率。霍普菲爾德的貢獻(xiàn)就是另辟蹊徑，從物理學(xué)的角度解決問題。

我來(lái)講講他的解決思路大概是怎樣的。不過千萬(wàn)注意，我這是做科普，是把他的思路簡(jiǎn)化再簡(jiǎn)化之后的講解，但也能讓我們普通人略微領(lǐng)略一下諾獎(jiǎng)大神的思想魅力了。

人工神經(jīng)網(wǎng)絡(luò)之所以會(huì)很消耗算力，很大一部分是有很多無(wú)效的計(jì)算。這就像是讓一個(gè)盲人尋找房間出口，一定是磕磕碰碰很多次才能嘗試出門在哪里。這些磕磕碰碰就是浪費(fèi)掉的算力。

但是，浴室中的水會(huì)直奔下水道，不會(huì)到處亂撞。這是因?yàn)橄滤廊肟谠谠∈业匕宓淖畹吞帲欢ㄊ峭吞幜鞯摹?/p>

這個(gè)換做更加物理的說(shuō)法那就是，下水道入口的位置處于重力場(chǎng)勢(shì)能最低的地方，而一個(gè)物體傾向于在能量最低狀態(tài)保持平衡。

霍普費(fèi)爾德就是把這個(gè)原理應(yīng)用到了神經(jīng)網(wǎng)絡(luò)算法中。他設(shè)想，是否可以用計(jì)算機(jī)算法來(lái)實(shí)現(xiàn)一個(gè)虛擬的力場(chǎng)呢？想到就干，霍普費(fèi)爾德先用軟件虛擬出一個(gè)神經(jīng)網(wǎng)絡(luò)，然后再用神經(jīng)網(wǎng)絡(luò)虛擬出一個(gè)遵守物理規(guī)律的力場(chǎng)，這就是他獲得諾獎(jiǎng)的那個(gè)重要成就——霍普費(fèi)爾德網(wǎng)絡(luò)。具體實(shí)現(xiàn)的數(shù)學(xué)方法非常復(fù)雜，我們不講數(shù)學(xué)，我只給你講他的思路。

我們可以把這個(gè)力場(chǎng)想象成是一個(gè)高低起伏的二維平面，這個(gè)平面上哪里高、哪里低，哪里是一個(gè)山峰，哪里是一個(gè)低谷，都是由神經(jīng)網(wǎng)絡(luò)里的參數(shù)決定的。

訓(xùn)練神經(jīng)網(wǎng)絡(luò)的時(shí)候，需要喂給模型很多數(shù)據(jù)，這些數(shù)據(jù)就像是一個(gè)一個(gè)的小球，把它們放到虛擬的力場(chǎng)里，它們就會(huì)自動(dòng)滾落到最低的能量低谷里。

比如說(shuō)，我們希望這個(gè)模型可以判斷出照片里面有沒有狗，在一個(gè)神經(jīng)網(wǎng)絡(luò)的虛擬力場(chǎng)里，不同位置代表不同的結(jié)果，分別有貓、狗、狼、石頭等等，那么，狗的位置就是勢(shì)能最低的地方，然后是狼、貓、石頭的勢(shì)能依次增大。

在真實(shí)的物理世界中，假如一個(gè)位置的力場(chǎng)勢(shì)能高低我們不清楚，我們可以從不同位置放下一個(gè)一個(gè)的小球，通過小球的運(yùn)行狀態(tài)來(lái)探測(cè)力場(chǎng)的真實(shí)情況。

不過，當(dāng)我們訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)模型的時(shí)候，情況就不太一樣了，因?yàn)樯窠?jīng)網(wǎng)絡(luò)里的這個(gè)場(chǎng)的形狀應(yīng)該是什么樣子的我們并不知道。但我們可以不斷地把真實(shí)的貓的照片數(shù)據(jù)喂給模型，如果這個(gè)力場(chǎng)是正確的話，那么這個(gè)訓(xùn)練數(shù)據(jù)最后應(yīng)該落在貓的位置，如果落到的是其他位置，就說(shuō)明這個(gè)力場(chǎng)是錯(cuò)的。

這個(gè)時(shí)候就需要調(diào)整模型參數(shù)，然后再用測(cè)試數(shù)據(jù)試一下，直到測(cè)試的數(shù)據(jù)能夠正確下落到代表貓的位置為止。

只要這個(gè)虛擬的力場(chǎng)訓(xùn)練出來(lái)了，這時(shí)候再給模型輸入數(shù)據(jù)，就能判斷它到底是不是貓的照片了，這就像浴室里的水一樣，直奔下水道，而不需要到處碰壁嘗試了。

但是，霍普費(fèi)爾德網(wǎng)絡(luò)有一個(gè)問題，那就是它最后訓(xùn)練出來(lái)的那個(gè)虛擬的力場(chǎng)并不是只有一個(gè)低谷，雖然最低的那個(gè)低谷仍然是正確答案，但是在它周圍還有幾個(gè)深淺不一的小凹坑。于是就可能出現(xiàn)，給模型輸入一個(gè)數(shù)據(jù)之后，這個(gè)數(shù)據(jù)的確是往低處滾動(dòng)，但是滾動(dòng)到了一個(gè)周圍的小坑里靜止了，這樣它就永遠(yuǎn)不會(huì)滾動(dòng)到正確的最深谷里了。

霍普菲爾德網(wǎng)絡(luò)訓(xùn)練可能產(chǎn)生的誤差

這個(gè)問題，霍普菲爾德沒有解決，但他的這個(gè)思想，已足以讓他名垂青史。不過，霍普菲爾德沒能解決的問題，被杰弗里·辛頓發(fā)明的“玻爾茲曼機(jī)”給解決了。

杰弗里·E·辛頓， 1947 年出生于英國(guó)倫敦，今年 77 歲。他本科拿的是英國(guó)劍橋大學(xué)的實(shí)驗(yàn)心理學(xué)文憑，本科畢業(yè)后前往愛丁堡大學(xué)學(xué)習(xí)計(jì)算機(jī)，獲得人工智能的博士學(xué)位。你沒聽錯(cuò)，早在 1975 年，大學(xué)里面就已經(jīng)有人工智能專業(yè)了。他在 2018 年獲得圖靈獎(jiǎng)，今年 2024 年又獲得諾貝爾物理學(xué)獎(jiǎng)，他是全世界除了赫伯特.西蒙，同時(shí)獲得圖靈獎(jiǎng)和諾貝爾獎(jiǎng)的第二人。

首先，玻爾茲曼是另外一個(gè)物理大神的名字，玻爾茲曼在物理學(xué)中的貢獻(xiàn)被稱為玻爾茲曼分布。這是用來(lái)描述類似氣體分子這樣微小粒子的狀態(tài)的。氣體分子有什么特點(diǎn)呢，就是它們是在持續(xù)不斷運(yùn)動(dòng)的，而且這個(gè)運(yùn)動(dòng)還和溫度有關(guān)，溫度越高動(dòng)能越高，溫度越低動(dòng)能越低。

玻爾茲曼機(jī)模型

剛才提到的霍普費(fèi)爾德網(wǎng)絡(luò)，一個(gè)數(shù)據(jù)容易陷入到局部最低的小低谷里面出不來(lái)，如果這個(gè)數(shù)據(jù)是具有溫度的氣體分子呢？那么它是會(huì)不斷運(yùn)動(dòng)的，即便是不小心到了一個(gè)小低谷里面，它仍然有可能翻出去，直到進(jìn)入全局的那個(gè)低谷。

如果用人工智能的術(shù)語(yǔ)來(lái)說(shuō)，那就是霍普費(fèi)爾德網(wǎng)絡(luò)更容易出現(xiàn)過擬合，但是在霍普費(fèi)爾德網(wǎng)絡(luò)虛擬出來(lái)的那個(gè)簡(jiǎn)化版物理世界里，再把玻爾茲曼分布的規(guī)律也引入進(jìn)去，就可以比較好的避免過擬合的現(xiàn)象。

直到現(xiàn)在，“溫度”仍然是人工智能里的非常重要的概念。ChatGPT 這樣的 AI 工具，通常有一個(gè)高級(jí)設(shè)置，設(shè)置模型的溫度。溫度越高，模型給出的答案會(huì)越有創(chuàng)意，溫度越低則是會(huì)越遵守原有的數(shù)據(jù)。

最后，我來(lái)總結(jié)一下：

霍普菲爾德和辛頓之所以會(huì)獲得今年的諾貝爾物理學(xué)獎(jiǎng)，是因?yàn)樘岢隽嘶羝召M(fèi)爾德網(wǎng)絡(luò)和玻爾茲曼機(jī)這兩個(gè)神經(jīng)網(wǎng)絡(luò)模型。其實(shí)如果單純說(shuō)對(duì)現(xiàn)在人工智能的貢獻(xiàn)，這兩個(gè)模型的直接貢獻(xiàn)其實(shí)并不算突出，它們更多的是為神經(jīng)網(wǎng)絡(luò)的發(fā)展引入了新思想和新的發(fā)展模式。現(xiàn)在大部分的大語(yǔ)言模型都沒有直接使用這兩個(gè)模型，但是，追根溯源，他們的思想被延續(xù)了下來(lái)。

這也是為什么諾貝爾物理學(xué)獎(jiǎng)居然頒給了搞計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)算法的科學(xué)家，因?yàn)樗麄兪亲钤鐚⑽锢韺W(xué)引入到人工智能領(lǐng)域的科學(xué)家。

他們就是終結(jié)者要保護(hù)的人！