編者按：百年未有之大變局，全球風險急劇上升。各個國家和地區如何求生存，謀發展，搞競合，爭未來？誰來指南找北？2021年，中國提出全球發展倡議，聚焦減貧、糧食安全、抗疫和疫苗、發展籌資、氣候變化和綠色發展、工業化、數字經濟、互聯互通等八大領域國際合作，是對上述問題提出的“中國答案”。在八大領域內，世界各國智庫各顯神通，仰觀俯察，深思熟慮，出謀劃策。北京大學區域與國別研究院特開辟全球智點·全球發展倡議卡片專欄，以極簡方式提煉要點，為促進全球發展倡議下各領域國際合作提供智力支持。同時，也歡迎讀者循例投稿，形成全球智點·全球發展倡議的爆炸式擴散效應。

標簽：#人工智能/國家安全/全球治理

觀點：科學家之間開展的非政治化對話有助于提升全球人工智能安全合作的包容性。

背景：當前人工智能安全是高度政治化的，各國治理模式存在巨大分歧。

1．各國對于人工智能安全的定義、標準和實現手段等方面存在分歧。隨著各國紛紛推出各自的人工智能治理模式，有關于“安全”的分歧和沖突愈發顯著，這反映出了不同的政治價值觀和優先事項偏好。

2．歐美國家遵循基于風險、以人為中心的治理模式，這種模式植根于人權和民主價值觀，但各國在如何界定風險水平以及劃定人工智能模型開發者的義務等方面仍然存在差異。中國則更為明確地主張從國家主權、社會穩定以及國際數據安全等角度來定義和實現人工智能安全。

3．隨著科學技術的發展，人工智能安全的標準也在不斷更新。此外，單一國家的治理模式尚不足以應對日益加劇的跨境風險，因此各國的治理模式之間進行協調和互鑒是尤為必要的。

圖源：Chatham House（英國查塔姆研究所）

內容：國家主導的全球治理深受政治化影響，而科學家主導開展的交流更有利于提升全球人工智能安全合作的包容性。

1．科學家們在解決全球性問題上一直發揮著重要作用。這主要在于科學家是堅持證據導向的，其相較于政治領導人而言更愿意表達不確定性和敏感性問題?？茖W家之間的對話合作有可能減弱全球人工智能安全的政治化，有助于提升該議題的包容性。然而，這些交流和對話在未來是否能真正發揮作用，還將取決于它們的研究結果如何被引導到具體的政策制定之中。

2．全球科學家圍繞人工智能開展知識分享。在著名的人工智能科學家約書亞·本吉奧（Yoshua Bengio）教授的領導下，全球科學家共同撰寫了《關于先進人工智能安全的國際科學報告》（International Scientific Report on the Safety of Advanced AI），該報告于5月份在首爾舉行的人工智能峰會上發布。這意味著各國在人工智能安全的合作和國際共享的科學理念上實現的歷史性跨越。

建議：應當在制度安排、開放平臺以及獨立性等方面積極創造條件，促進科學家更好地推動人工智能安全國際合作。

1．完善人工智能安全合作的國際制度安排。建立從科學到政策的有效機制，使得人工智能政策制定者能夠從科學家的包容性努力中受益。

2．增強高級別國際會議的開放性。當前人工智能的國際會議仍然由少數國家、公司和技術領袖所主導，未來應向更多科學家敞開大門，以納入更加多樣化的專業知識以及更多國家參與。

3．維護科學家發揮作用的獨立性。科學家并非天生不受政治影響，部分科學家在自身觀點中帶入了政治偏見。因此需要保障科學家免于政治壓力的脅迫，這有助于提出關于全球性風險狀況的可靠性、共識性認知。

來源：《科學家可以在全球范圍內推動人工智能安全合作》，英國查塔姆研究所（Chatham House），2024年7月19日，https://www.chathamhouse.org/2024/07/where-scientists-can-move-needle-global-ai-safety-collaboration

整理者：李添翼，北京大學區域與國別研究院全球智多星團隊成員