5月28日，上海論壇2018閉幕式在復(fù)旦大學(xué)舉行，出席該會(huì)議并做主旨演講的英國(guó)皇家學(xué)會(huì)院士Peter Dayan和倫敦大學(xué)學(xué)院計(jì)算神經(jīng)科學(xué)教授李兆平夫婦二人接受了澎湃新聞?dòng)浾叩膶?zhuān)訪。訪談中，二位腦科學(xué)家對(duì)人工智能的研究方向，腦機(jī)結(jié)合的實(shí)現(xiàn)方式，人工智能面臨的風(fēng)險(xiǎn)等問(wèn)題做出了專(zhuān)業(yè)解答。

Peter Dayan 為英國(guó)皇家學(xué)會(huì)院士，2017年格雷特·倫德貝克歐洲大腦研究獎(jiǎng)（簡(jiǎn)稱(chēng)大腦獎(jiǎng)）的獲獎(jiǎng)?wù)咧弧?018年，當(dāng)選為英國(guó)皇家學(xué)會(huì)院士。

李兆平系倫敦大學(xué)學(xué)院計(jì)算機(jī)系計(jì)算神經(jīng)科學(xué)教授，北京師范大學(xué)認(rèn)知神經(jīng)科學(xué)與學(xué)習(xí)國(guó)家重點(diǎn)實(shí)驗(yàn)室訪問(wèn)教授。

澎湃新聞：人是生物體，有情感，有創(chuàng)造能力，那么人工智能是不是更應(yīng)該和基因技術(shù)、神經(jīng)元、腦科學(xué)這些與人類(lèi)相關(guān)的技術(shù)相結(jié)合?

李兆平：我對(duì)基因技術(shù)不熟悉，我是做腦科學(xué)的，我回答這個(gè)問(wèn)題可能會(huì)有點(diǎn)主觀，腦科學(xué)是科學(xué)，人工智能是工程技術(shù)。解決AI最好是用科學(xué)的方法去做，當(dāng)然在不懂科學(xué)的情況下，用工程技術(shù)也是可以做出有用的AI，就像做一輛馬車(chē)，在根本不懂力學(xué)原理的情況下，可以做出來(lái)一輛很好用的馬車(chē)。另外，有用的AI即使沒(méi)有情感也關(guān)系不大，你看陌生人之間也沒(méi)有情感，但也不影響他們之間的交流，只要這個(gè)人直來(lái)直去表達(dá)無(wú)誤就好了。

Peter Dayan：用基因方法解決人工智能，有一個(gè)正面的因素和一個(gè)負(fù)面的因素，負(fù)面的因素是基因太復(fù)雜了，比如跟身高相關(guān)的基因就有70個(gè)，和一個(gè)神經(jīng)質(zhì)疾病相關(guān)的基因有1000個(gè)，雖然你知道這個(gè)病的基因根源，但是多達(dá)1000個(gè)基因關(guān)聯(lián)，人就沒(méi)有辦法去調(diào)整基因去治病。正面的因素是，有些東西通過(guò)基因遺傳讓人天生就學(xué)會(huì)了，譬如獅子來(lái)了應(yīng)該要逃跑這些知識(shí)，人出生后不用學(xué)習(xí)就知道。通過(guò)這個(gè)認(rèn)識(shí)去理解，人做出的很多很重要決策可以從基因?qū)用嫒ダ斫?，這是一個(gè)正面的影響。另外，人的情感其實(shí)是和基因有很緊密的聯(lián)系。

澎湃新聞：正在播出的美劇《west world》是部關(guān)于人工智能的科幻片，劇中描述了意念通過(guò)機(jī)器輸入大腦的場(chǎng)景，被操控者的人生就是輸入者寫(xiě)好的劇本，現(xiàn)實(shí)中這樣的情況會(huì)不會(huì)發(fā)生？

Peter Dayan：首先，這已經(jīng)部分發(fā)生了，通過(guò)臉書(shū)之類(lèi)的社交工具，人們已經(jīng)被別人操縱，這還沒(méi)有用到基因技術(shù)。此外，有很多人對(duì)一些東西上癮，上癮其實(shí)是人的大腦的獎(jiǎng)懲系統(tǒng)被控制了，被控制的人就老想去做賭博這些事情。有一個(gè)實(shí)驗(yàn)，把一個(gè)電極插到小鼠腦子里，通過(guò)電擊讓這只小鼠經(jīng)常去做同樣的事情，它就一直喜歡做這個(gè)事情，其實(shí)是它被人為控制了。通過(guò)這個(gè)例子我們可以學(xué)習(xí)大腦是怎么控制我們的行為。所以從技術(shù)上講，控制人的意念是可能做到的。雖然使用這個(gè)技術(shù)還可以治病，我們通過(guò)電擊可以讓有些帕金森患者不那么抖。這是倫理范疇的問(wèn)題，但是，技術(shù)上的意念控制是可以實(shí)現(xiàn)的。

澎湃新聞：我們現(xiàn)在對(duì)大腦的認(rèn)識(shí)達(dá)到什么程度？通過(guò)現(xiàn)在的研究能不能確定人工智能的研究方向？

李兆平：就像我前面講的，AI人工智能其實(shí)是工程問(wèn)題，腦科學(xué)是科學(xué)問(wèn)題，如果要用工程技術(shù)去實(shí)現(xiàn)人工智能，不一定完全要造成人的樣子，完全可以想造什么就造什么。再更高一層，我們要有一個(gè)智能的科目，就像生物科目，打個(gè)比方，人的智能是一個(gè)例子，人工智能是另外一個(gè)例子。在我們理解智能科學(xué)以后，就可以做出工程上的智能?？茖W(xué)上對(duì)智能的理解可以用人作為一個(gè)例子去研究，也可以用自己造出來(lái)的東西，但是這個(gè)是智能科學(xué)，有了智能科學(xué)就可以去造一個(gè)工程上的東西。

澎湃新聞：那能不能說(shuō)現(xiàn)在我們使用的，工程學(xué)意義上的智能還是淺層次的技術(shù)。

李兆平：不能說(shuō)它淺，工程和科學(xué)不能比誰(shuí)高誰(shuí)低。也就是說(shuō)機(jī)械系和物理系，誰(shuí)高誰(shuí)低呢？工程系能造東西，物理系知道運(yùn)動(dòng)原理，我覺(jué)得這不能比，不能說(shuō)誰(shuí)高誰(shuí)低。但如果知道了原理，可以把東西造得更好，但是不見(jiàn)得一定要知道原理才可以造飛機(jī)。

澎湃新聞：直覺(jué)是什么，有時(shí)候直覺(jué)很有效，怎么解釋這種很快的思考方式，人工智能可不可以也有直覺(jué)？

Peter Dayan：很多決策非常難做，之所以難是因?yàn)樾畔⑻珡?fù)雜、太多，最后無(wú)法確定哪個(gè)方案是好的。所以會(huì)出現(xiàn)走近路的思考方式，人會(huì)抄近路，機(jī)器也會(huì)抄近路。但是人抄近路和機(jī)器抄近路不一定是同樣的近路。人抄近路有限制，人只吃這么點(diǎn)飯，能量就這么點(diǎn)，腦容量就這么大，而機(jī)器可以做很大，也可以有很足的電力支撐它運(yùn)轉(zhuǎn)，所以它抄近路和我們不一樣。如果有智能科學(xué)，知道原理是什么，就可以知道人要抄近路該怎么抄，也可以幫我們決斷該不該買(mǎi)房子這些麻煩問(wèn)題。同時(shí)也可以決定機(jī)器抄近路怎么抄。

澎湃新聞：我的理解人本身是一個(gè)生物體，他做決策的過(guò)程應(yīng)該是一個(gè)化學(xué)或生物的反應(yīng)，而機(jī)器的思考，是物理上一個(gè)可重復(fù)、可控制過(guò)程，這兩套思考方式將來(lái)能打通嗎？

Peter Dayan：哲學(xué)上有一個(gè)功能主義，只要功能能夠?qū)崿F(xiàn)，靠什么硬件實(shí)現(xiàn)的沒(méi)有關(guān)系，就像半導(dǎo)體，剛開(kāi)始是真空管，后來(lái)變成三極管，二者硬件是不一樣，但原理是一樣的，所以不能說(shuō)因?yàn)橛布灰粯佣呔痛虿煌?。飛行如何實(shí)現(xiàn)？不管你是用飛機(jī)的機(jī)翼來(lái)飛，還是用羽毛來(lái)飛，只要能夠飛，跟他們的硬件不一樣沒(méi)有關(guān)系。

澎湃新聞：我猜想生物體肯定有情感，有情感的創(chuàng)造和電腦的思考應(yīng)該是不一樣的，但是電腦不管怎么進(jìn)化，怎么演變都不會(huì)有情感吧？

Peter Dayan：要問(wèn)你一個(gè)問(wèn)題，情感是什么？

澎湃新聞：情感應(yīng)該在人思考或者做決策中會(huì)發(fā)揮立場(chǎng)作用，比如愛(ài)、恨。

李兆平：情感歸根到底是有多興奮，還有是對(duì)某個(gè)事物的價(jià)值大小的判斷，將二者放在一起就是情感。這樣組合出來(lái)的東西可以放到機(jī)器上，機(jī)器是否用省電模式，可以是認(rèn)為有多興奮的問(wèn)題。如果想讓機(jī)器有價(jià)值觀，就是選擇的問(wèn)題，譬如是應(yīng)該把微信打開(kāi)還是把照相機(jī)打開(kāi)，誰(shuí)先誰(shuí)后，這是價(jià)值觀的問(wèn)題。情感可以是一個(gè)選擇，情感可以是一種理解。體現(xiàn)在人身上就是我更愛(ài)你不愛(ài)他，我更愛(ài)微信不愛(ài)照相機(jī)，說(shuō)到底其實(shí)是一種選擇。

澎湃新聞：情感能被機(jī)器模擬，我有點(diǎn)意外。兩臺(tái)同樣的電腦運(yùn)行同樣的程序，會(huì)得到同樣的結(jié)果，但雙胞胎他們從生物構(gòu)成上是一樣的，成長(zhǎng)經(jīng)歷也高度相似，但是一般說(shuō)來(lái)，雙胞胎外貌相似，而性格、才能方面的差別很大。同樣的人和同樣機(jī)器為什么會(huì)有這么大的差異？

Peter Dayan：你說(shuō)的雙胞胎的經(jīng)歷相同是你的定義，其實(shí)他們是有不同的經(jīng)歷，會(huì)做不同的事情。兩臺(tái)機(jī)器一模一樣，但如果它們有不同的境遇，它們學(xué)習(xí)的東西不一樣，最后這兩個(gè)機(jī)器是不一樣的。其實(shí)這和雙胞胎的原理是一樣的，剛開(kāi)始一樣的雙胞胎最后有了明顯的差別，因?yàn)檫@個(gè)過(guò)程中肯定會(huì)有不同經(jīng)歷發(fā)生，這個(gè)雙胞胎給爸爸抱得多一點(diǎn)，那個(gè)雙胞胎媽媽抱得多一點(diǎn)，所以他們不能有絕對(duì)一樣的成長(zhǎng)過(guò)程，如果真的能讓雙胞胎的經(jīng)歷絕對(duì)一樣的話，我覺(jué)得到最后他們是一樣的。

澎湃新聞：人腦神經(jīng)電信號(hào)這套機(jī)制可以用電腦模擬？

李兆平：原理上是可以的，實(shí)際操作上要看模擬得多細(xì)致，如果要模擬很細(xì)致是不太可能的，因?yàn)樵谠?、質(zhì)子層面是不可能模擬得很仔細(xì)。比如你可以造出完全一模一樣的房子，但是里面每一個(gè)細(xì)節(jié)，每一個(gè)原子都一樣嗎？那是不可能的，所以就要看做到多細(xì)微的程度。

澎湃新聞：馬斯克、陳天橋正在做的腦機(jī)結(jié)合，這種大腦和物理電信號(hào)連接能實(shí)現(xiàn)嗎？

Peter Dayan：當(dāng)然能，技術(shù)已經(jīng)有了，但這還是很粗糙的東西，而且這個(gè)技術(shù)出現(xiàn)了，并不是說(shuō)肯定可行，問(wèn)題在于這種腦機(jī)結(jié)合的交流是不是人們想要的東西，很糟糕的交流就不是有效的交流。或者可以問(wèn)另外一個(gè)問(wèn)題，怎么樣的腦機(jī)接口才是人類(lèi)想要的？因?yàn)榻涌谑侨撕蜋C(jī)器的交流，怎么樣交流才是你想要的。比方說(shuō)人工耳蝸，電極插在耳蝸里刺激耳蝸神經(jīng)元，就可以讓人聽(tīng)到聲音，這需要人腦學(xué)習(xí)新信號(hào)，要學(xué)會(huì)適應(yīng)這些信號(hào)就能聽(tīng)見(jiàn)。這是一個(gè)腦機(jī)結(jié)合非常好的例子，但問(wèn)題在于這樣的例子能不能推廣到別的地方。

澎湃新聞：發(fā)展人工智能過(guò)程中的風(fēng)險(xiǎn)是什么？

Peter Dayan：人工智能以后可能會(huì)給我們引起的麻煩，分成兩種，一個(gè)麻煩是人工智能比我們更聰明，把人類(lèi)都控制了；另外一種麻煩，我們什么活都靠人工智能幫我們做，假如我們靠人工智能來(lái)運(yùn)營(yíng)核電站，但是人工智能做得很笨，它們把核電站弄爆炸。我認(rèn)為第二種麻煩的可能性更大，我們太依靠很笨的人工智能來(lái)做很重要的事情。有些決定人類(lèi)自己來(lái)做也很難，因?yàn)樾畔⒘刻啵豢赡茏龀鲆粋€(gè)完全深思熟慮、科學(xué)的決定，在這個(gè)時(shí)候就要必須走近路，但如果幻想讓機(jī)器人幫我們做重要決定，機(jī)器人也要走近路，但是機(jī)器走近路的情況和人走近路是一樣的，所以我們做不好的決定，機(jī)器做決定可能也做不好 。

澎湃新聞：很多人說(shuō)人工智能不能創(chuàng)造、創(chuàng)新，那么將來(lái)人工智能與神經(jīng)元、腦科學(xué)這些生物相關(guān)的技術(shù)相結(jié)合，會(huì)不會(huì)做出創(chuàng)新創(chuàng)造？

Peter Dayan：當(dāng)然，毫無(wú)懷疑這個(gè)事會(huì)發(fā)生，就像下圍棋，李世石下的棋就證明機(jī)器有創(chuàng)新能力，比人厲害，這個(gè)創(chuàng)造力很厲害，所以它已經(jīng)是能夠做的。

澎湃新聞：下棋是機(jī)器人在人的編寫(xiě)的程序上運(yùn)行的結(jié)果，這個(gè)結(jié)果是人可以想到但未找到的結(jié)果？

李兆平：不是，它做的東西如果人能想象得到，李世石也可以想得到，你說(shuō)人沒(méi)有想到的東西叫創(chuàng)造。它們下的棋就是人沒(méi)有想到的，才能把李世石打敗了。阿爾法GO下的棋就是人沒(méi)有想到的。你不能說(shuō)是人輸入進(jìn)去的程序做的，這是它自己學(xué)的，它是用人輸進(jìn)去的學(xué)習(xí)方法自己學(xué)到了知識(shí)，創(chuàng)新出來(lái)的東西。

澎湃新聞：阿爾法GO做的那些東西，還是人的方法當(dāng)中的一種，機(jī)器人只是把這些方法找到而已。機(jī)器人會(huì)自己去做實(shí)驗(yàn)，譬如像一個(gè)生物學(xué)家一樣去找到一個(gè)新的DNA結(jié)構(gòu)？

Peter Dayan：阿爾法GO下的棋，如果是一個(gè)人下出來(lái)的，你就會(huì)覺(jué)得這是個(gè)創(chuàng)新，其實(shí)這個(gè)已經(jīng)是創(chuàng)新了。在下圍棋的情況下，機(jī)器可做出人沒(méi)有想到的東西。找到DNA也是這樣，怎么找到DNA是有規(guī)則的，要去做實(shí)驗(yàn)，發(fā)現(xiàn)很多事實(shí)，這和下圍棋的步驟是一樣的，機(jī)器也可以去看這個(gè)反應(yīng)是什么結(jié)構(gòu)，那個(gè)是什么結(jié)構(gòu)，然后找到新的步驟。如果一個(gè)人能這樣做實(shí)驗(yàn)，那這個(gè)科學(xué)家就很厲害了，這就是創(chuàng)新，既然阿爾法·GO可以創(chuàng)新得比人還好，所以機(jī)器只要知道做事的規(guī)則，這樣實(shí)驗(yàn)一下，那樣實(shí)驗(yàn)一下，照規(guī)則就可以做出新的選擇，這就是創(chuàng)新。

澎湃新聞：有可能發(fā)現(xiàn)規(guī)則嗎？下棋畢竟還是在圍棋的規(guī)則里走。

Peter Dayan：假如有一個(gè)領(lǐng)域，可以做完全開(kāi)放的學(xué)習(xí)，我們假設(shè)讓一個(gè)機(jī)器人去比賽跑步，它要跑得越快越好，大家都快跑，機(jī)器人甚至?xí)氲揭粋€(gè)新的辦法，在臨近撞線的時(shí)候，機(jī)器人倒下去，依靠很長(zhǎng)的身高，能更快地撞線，這個(gè)就是比你想象得還要新，它能打破規(guī)則，機(jī)器人肯定會(huì)有這些創(chuàng)新。

澎湃新聞：很多中國(guó)人都喜歡讀《紅樓夢(mèng)》，但又很遺憾后四十回續(xù)寫(xiě)得不夠好，機(jī)器人會(huì)不會(huì)續(xù)寫(xiě)出來(lái)？

Peter Dayan：為什么其他的作家不去把后面的內(nèi)容續(xù)寫(xiě)出來(lái)？

澎湃新聞：是有人續(xù)寫(xiě)了，但是續(xù)寫(xiě)的部分跟原著相比，文字的文風(fēng)、人物命運(yùn)、還有詩(shī)詞等等，都和原著有很大的差異。所以能不能在藝術(shù)風(fēng)格上做出一致的創(chuàng)造呢？

Peter Dayan：原理上機(jī)器人應(yīng)該做得到，因?yàn)楝F(xiàn)在計(jì)算機(jī)可以作曲了，比如把巴赫很多的曲譜給它學(xué)習(xí)，然后機(jī)器人會(huì)作出新曲，跟巴赫的風(fēng)格都是一樣的。所以我認(rèn)為原理上可行的東西可以繼續(xù)擴(kuò)大應(yīng)用范圍，沒(méi)覺(jué)得有什么障礙。雖然現(xiàn)在機(jī)器翻譯的東西還達(dá)不到滿意的程度，但我認(rèn)為最終應(yīng)該可以達(dá)到較高的水平。我們已經(jīng)知道人工智能在那些小的機(jī)制里能夠達(dá)到我們所期望的，雖然大的方面還沒(méi)有達(dá)到，譬如機(jī)器人可以作巴赫風(fēng)格的曲譜，這只是一個(gè)小的成功，還沒(méi)有衍生到大的方面，但我認(rèn)為應(yīng)該是可以做到的。就是說(shuō)你已經(jīng)在一條路上成功走了一段距離了，而且我也沒(méi)有看見(jiàn)前面有什么障礙能阻擋我走下去，雖然我現(xiàn)在還沒(méi)有走到終點(diǎn)，但是原理上來(lái)說(shuō)我是可以走到終點(diǎn)的。

【受訪人簡(jiǎn)介】

Peter Dayan 為英國(guó)皇家學(xué)會(huì)院士，2017年大腦獎(jiǎng)得主，曾在劍橋大學(xué)攻讀數(shù)學(xué)，畢業(yè)后于愛(ài)丁堡大學(xué)師從David Willshaw教授，并取得了物理博士學(xué)位。此后，他又跟隨索爾克生物研究所的Terry Sejnowski教授和多倫多大學(xué)的Geoff Hinton教授完成了兩個(gè)博士后學(xué)位。在麻省理工擔(dān)任了三年的助理教授之后，Dayan于1998年促成了倫敦大學(xué)學(xué)院蓋茨比計(jì)算神經(jīng)科學(xué)中心的成立。今年他在Uber人工智能實(shí)驗(yàn)室作學(xué)術(shù)訪問(wèn)。Peter Dayan于2012年獲得David E. Rumelhart獎(jiǎng)，也是2017年格雷特·倫德貝克歐洲大腦研究獎(jiǎng)（簡(jiǎn)稱(chēng)大腦獎(jiǎng)）的獲獎(jiǎng)?wù)咧弧?018年，當(dāng)選為英國(guó)皇家學(xué)會(huì)院士。

Dayan的研究領(lǐng)域主要是神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)計(jì)算模型，尤其是有關(guān)表達(dá)、學(xué)習(xí)和決策的模型。他在最近的工作中集中研究人類(lèi)和其他動(dòng)物用于實(shí)現(xiàn)獎(jiǎng)勵(lì)最大化和懲罰最小化的各式行為機(jī)制。這些行為機(jī)制顯然與人工智能中所流行的算法相似。這種關(guān)聯(lián)性為我們提供了豐富的途徑，去理解人類(lèi)及動(dòng)物的日常行為，也能幫助我們了解人們?cè)诨忌仙窠?jīng)功能性障礙和精神疾病時(shí)的行為表現(xiàn)。

李兆平系倫敦大學(xué)學(xué)院計(jì)算機(jī)系計(jì)算神經(jīng)科學(xué)教授，北京師范大學(xué)認(rèn)知神經(jīng)科學(xué)與學(xué)習(xí)國(guó)家重點(diǎn)實(shí)驗(yàn)室訪問(wèn)教授。李兆平1984年本科畢業(yè)于復(fù)旦大學(xué)物理系，1989年獲得加州理工學(xué)院物理博士學(xué)位。她曾在美國(guó)的費(fèi)米國(guó)家實(shí)驗(yàn)室、普林斯頓的高級(jí)研究院和洛克菲勒大學(xué)做博士后，在香港科技大學(xué)任教，以及在其他一些學(xué)術(shù)機(jī)構(gòu)做學(xué)術(shù)訪問(wèn)。1998年，她參與創(chuàng)建了倫敦大學(xué)學(xué)院的蓋茨比計(jì)算神經(jīng)科學(xué)中心，現(xiàn)在她在該大學(xué)的計(jì)算機(jī)系任計(jì)算神經(jīng)科學(xué)教授。她歷年來(lái)的科研涉及物理、神經(jīng)生物學(xué)等，但主要注重于視覺(jué)、嗅覺(jué)和非線性神經(jīng)動(dòng)力學(xué)，1990年代后期至2000年代早期，她理論提出大腦初級(jí)視皮層建立了視覺(jué)空間的顯著圖來(lái)自動(dòng)引導(dǎo)視覺(jué)注意，領(lǐng)域里大量的實(shí)驗(yàn)工作正在對(duì)此理論做實(shí)驗(yàn)檢驗(yàn)。2014年，牛津大學(xué)出版社出版了她著的《理解視覺(jué)：理論，模型和數(shù)據(jù)》。