什么是可信人工智能？為什么其在當下值得被討論？如何構建可信人工智能？下一代可信人工智能的機遇、挑戰與實現路徑分別是什么？

近日，在杭州舉行的2021全球人工智能技術大會可信AI專題論壇上以此為議題進行了討論。

對于可信人工智能的定義，科技部高技術研究發展中心研究員嵇智源在致辭中作了通俗解釋：可信AI，就是確保AI的公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

要實現可信AI，同盾科技人工智能研究院院長、中科院醫學所首席教授李曉林認為，“數據安全、數據隱私保護等是必須解決的核心問題。”

美國加州大學伯克利分校教授宋曉冬對當下數據處理的困境做了詳細闡述：

一方面，匿名化處理無法保護用戶和數據隱私。宋曉冬以《紐約時報》的案例舉例，《紐約時報》能夠追蹤與前總統特朗普在一起的特工的位置，數據來自匿名的手機位置數據集。

另一方面，如何處理敏感數據以及被數據泄漏問題持續困擾著企業，同時，遵守新的隱私法規，變得越來越麻煩和昂貴，而且許多有價值的數據被鎖定，困在數據孤島中。

如何建立可靠的數據經濟？宋曉東提出，“我們需要技術和非技術解決方案的結合，特別是我們需要有三個組件：技術解決方案，激勵模型和法律框架?！?/p>

在技術方面，宋曉東提出需要解決的兩個主要問題：一是保護使用中的數據，那么我們需要能夠無須復制原始數據就可以使用的數據。其次則需要在不泄漏敏感信息的前提下計算輸出。

“聯邦學習是一種方法，利用安全計算和差分隱私，使數據能夠保留在用戶的設備或者機器上，并使不同的實體能夠一起協作，訓練模型并以分布式計算，進行分析，最后形成分布式賬本。

我相信，十年后數據可信與共享將成為利用不同數據源的主要方式，實現數據確權，并使數據所有者受益，通過這些新形式的數據信任和數據共享將在10年內創造巨大的經濟價值，”宋曉東認為。

同盾科技人工智能研究院院長、中科院醫學所首席教授李曉林在論壇現場具體闡述了建立在聯邦學習基礎上的“知識聯邦”。“聯邦學習”(Federated Learning)算法框架由谷歌公司提出，是其針對個人終端設備數據孤島和數據隱私的兩難問題提出的解決辦法。而AAAI Fellow楊強教授與微眾銀行隨后提出了基于“聯邦學習”(Federated Learning)的系統性的通用解決方案,可以解決個人(2C)和公司間(2B)聯合建模的問題。其目的是在滿足數據隱私、安全和監管要求的前提下，設計一個機器學習框架，讓人工智能系統能夠更加高效、準確的共同使用各自的數據。

李曉林進一步提出“知識聯邦”，將認知和知識引入隱私計算范疇，包括信息層、模型層、認知層和知識層，目標是實現下一代可信、可解釋、可推理、可決策的人工智能。

知識聯邦通過將數據轉化成信息、模型、認知和知識，利用密碼學技術，滿足數據“可用不可見”，打破數據孤島；同時，為了保障聯邦生態構建過程可知、數據安全交換等核心問題，再通過安全的數據交換協議(Federated Learning EXchange，FLEX)來使用數據。他將FLEX.USE比喻為可信AI時代的HTTP.GET，合規安全使用數據而不改變數據的所有權。

李曉林在接受澎湃在內的媒體采訪時以一個例子作闡釋，在個人信用風險評估時，可能會需要個人的收入情況、消費能力、貸款情況以及其它信息，而這些信息可能分布在不同的機構中。如果我們想得到信用風險評估這個知識，就需要聯合相關機構參與任務，建立相應的任務聯盟。尤其是中小微企業，自由數據量少，需要借助外部數據才能開展業務，通過聯邦平臺建立小范圍的任務聯盟就可以有效解決這個難題。

具體來說，數據不出本地。在加密保護下，其只是在中間的梯度變化和一些決策樹的分杈點進行交換，保證了原始數據不出域，實現數據可用不可見。

李曉林表示，“我們觀察到人工智能各個階段的飛躍間隔大約30年。我們目前所處的時代AI已擁有強大的感知能力，以深度學習和強化學習為代表，AI獲得了及其廣泛的應用和社會影響力，我認為在下一代AI時代，知識和智能決策將成為核心，知識聯邦一定會扮演重要角色。”

中國科學院院士譚蔚泓則從智慧醫療的視角提出分子大腦，“分子大腦，即利用高分量的測量技術，結合多個識別疾病標志物的分子探針，對病人進行多到300個分子探針分子特征驗證比和定量測定，然后用人工智能幫助解析數據，把有益的信息從雜亂無章的大量的信息里面解析出來。這在上海交通大學的仁濟醫院已有落地。

譚蔚泓提出，分子大腦必將成為下一代的疾病精準診斷的變更性的技術，而這必須有數據隱私保護和可信AI的成熟技術作基礎。