圖靈獎得主、中國科學(xué)院院士姚期智在“科學(xué)前沿與顛覆性技術(shù)”論壇上發(fā)言。

人臉識別、自動駕駛、語音識別、語義理解，人工智能已經(jīng)在醫(yī)療、教育、交通等領(lǐng)域有了很好的應(yīng)用落地。看上去，如今的人工智能已經(jīng)取得了巨大突破。

但回到技術(shù)本身，在姚期智看來，人工智能仍有自己的發(fā)展限制和需要突破的地方。在上海舉辦的第三屆世界頂尖科學(xué)家“科學(xué)前沿與顛覆性技術(shù)”論壇上，圖靈獎得主、中國科學(xué)院院士姚期智就講到上述話題。

人工智能需要突破的第一個瓶頸是如何保證算法的穩(wěn)健性。在人臉識別技術(shù)上，AI已經(jīng)可以做的比人類好了，但他們的穩(wěn)定性和人類相比仍有差距。姚期舉了一個例子：自動駕駛領(lǐng)域，自動駕駛汽車能識別車輛和行人。但如果有人給系統(tǒng)增加了變動，系統(tǒng)將紅燈或者停車標(biāo)志識別錯誤，那就會發(fā)生非常嚴(yán)重的交通事故。

第二個需要突破是AI算法的可解釋性。人工智能目前已經(jīng)在環(huán)境、醫(yī)藥、教育等領(lǐng)域有了廣泛應(yīng)用，我們對于AI的依賴會越來越高。如何判定一個算法被大眾接受，廣泛使用，姚期智認(rèn)為需要滿足一些標(biāo)準(zhǔn)。

同樣的，姚期智舉了一個例子。假設(shè)有一個給房屋評估的AI程序，可以對房屋進行評估。這個算法可以根據(jù)輸入的房屋數(shù)據(jù)、周邊情況和其他數(shù)據(jù)，給房子做出評估。你進行操作后，發(fā)現(xiàn)自家房子只值200萬，那你可能會不高興了，因為你自己覺得房子能值400萬。AI為什么會根據(jù)算法給你的房子評估出200萬的價值，你可能會懷疑中介在中間做了手腳。這中間就會引發(fā)法律糾紛。因此，如何去解釋AI算法做出決策的關(guān)鍵就非常重要。但現(xiàn)在科學(xué)家仍無法解釋AI算法。

人工智能領(lǐng)域遇到的第三問題是超級AI已經(jīng)來了嗎？姚期智說，很多人都在講人工智能的威脅。但我們究竟如何去理解一般AI和超級AI，這是我們需要在概念上突破的，這是個開放性問題

“現(xiàn)在機器學(xué)習(xí)能力大幅改進，人們開始相信在未來十年、五十年，我們能夠看到AI能與人類具有可比性，但我們的問題就在于要不要控制AI。”姚期智說。