在俄烏沖突戰(zhàn)場上，一架烏軍自殺式無人機(jī)正在俄軍陣地上空盤旋，無人機(jī)上的攝像頭對準(zhǔn)戰(zhàn)壕不斷地掃描，在發(fā)現(xiàn)有人員活動后人工智能迅速識別，然后俯沖進(jìn)行自殺式攻擊。

鏡頭轉(zhuǎn)向俄烏戰(zhàn)場上烏軍陣地上空，俄軍一架無人偵察機(jī)在烏軍陣地上空進(jìn)行偵察，在發(fā)現(xiàn)坦克裝甲車后，后方人員迅速將這一信息傳遞給操縱“柳葉刀”巡飛彈的作戰(zhàn)人員，“柳葉刀”巡飛彈飛向發(fā)現(xiàn)目標(biāo)的陣地上空附近，巡飛彈上也配備了人工智能系統(tǒng)，能夠迅速識別坦克裝甲車輛，并對目標(biāo)進(jìn)行鎖定攻擊，即使遇到干擾，最后也能夠進(jìn)行自主攻擊。

上述是俄烏兩軍公布的無人機(jī)和巡飛彈作戰(zhàn)畫面，人工智能（AI）技術(shù)在俄烏沖突中的搶眼表現(xiàn)已經(jīng)引發(fā)了高度關(guān)注，同時也將極大推動該技術(shù)在軍事領(lǐng)域的應(yīng)用。隨著人工智能等新興技術(shù)的快速發(fā)展，如何確保這些技術(shù)的安全應(yīng)用成為各國在本屆北京香山論壇期間關(guān)注的焦點。

9月12日，在論壇高端訪談設(shè)置專場討論人工智能安全。9月13日，在論壇第六分組會議“新興技術(shù)向善”上又專門對人工智能、合成生物學(xué)等新興技術(shù)如何向善等議題展開交流和討論。

人工智能技術(shù)上戰(zhàn)場

2021年，美國前國務(wù)卿基辛格曾出版《人工智能時代與人類未來》一書，闡述了他對人工智能發(fā)展、影響等方面的看法。該書提出，人工智能將重塑全球安全與世界秩序，對人工智能的崛起提出了想法和警示。基辛格認(rèn)為，人工智能武器具備核武器所不具備的三個特點：集中在大公司和私人部門；技術(shù)更容易被復(fù)制，從而容易被非政府組織掌握；小國也有機(jī)會掌握。

該書出版的第二年，俄烏沖突爆發(fā)，隨著沖突進(jìn)程的推進(jìn)，越來越多具備人工智能技術(shù)的武器投入戰(zhàn)場：無人機(jī)、無人作戰(zhàn)車輛、無人艇以及巡飛彈等，人工智能技術(shù)還參與衛(wèi)星圖像識別、輔助決策、網(wǎng)絡(luò)以及電子對抗等。

國防大學(xué)教授孟祥青接受澎湃新聞（www.kxwhcb.com)采訪時指出，第一次世界大戰(zhàn)被認(rèn)為是機(jī)械化戰(zhàn)爭的開端，海灣戰(zhàn)爭被認(rèn)為開啟了信息化戰(zhàn)爭，而這次俄烏沖突被認(rèn)為拉開了智能化戰(zhàn)爭的帷幕，雖然現(xiàn)在的人工智能技術(shù)對武器和作戰(zhàn)是淺賦能，對戰(zhàn)爭的影響不是非常大，但已經(jīng)預(yù)示了這一趨勢。

目前，在俄烏沖突中，由人工智能賦能的武器越來越多出現(xiàn)在戰(zhàn)場上。今年3月，英國國防部宣布把援烏無人機(jī)的數(shù)量從4000架增加至1萬架，其中數(shù)千架是配備了人工智能技術(shù)的無人機(jī)，以支持其在戰(zhàn)場上的行動。這些無人機(jī)將攜帶先進(jìn)的傳感器和武器系統(tǒng)，具備高度的自主性和智能性，能夠在復(fù)雜的環(huán)境中進(jìn)行偵察、打擊和防御等多種任務(wù)。

2023年1月，一篇名為《算法是如何打破俄烏戰(zhàn)爭平衡的？》的報道，披露了美國高科技公司與美國國防部及情報部門合作，深度介入俄烏沖突的種種內(nèi)幕。報道提及，美國高科技公司提供的人工智能軟件被廣泛用于衛(wèi)星圖像判讀，發(fā)現(xiàn)有價值的目標(biāo)。

據(jù)報道，烏軍還廣泛使用了一套來自美國民用軟件公司帕蘭提爾的“元星座”信息系統(tǒng)。通過該系統(tǒng)，各種各樣的高精尖技術(shù)應(yīng)用被整合，形成一種“擊殺鏈條”，烏克蘭及其盟友可以看到特定作戰(zhàn)區(qū)域目前可用的數(shù)據(jù)。衛(wèi)星圖像目標(biāo)識別是一個重要而復(fù)雜的問題，傳統(tǒng)的人工判讀面臨諸多挑戰(zhàn)，而人工智能基于深度學(xué)習(xí)的能力可以在衛(wèi)星圖像判讀方面發(fā)揮很大的作用，為衛(wèi)星圖像目標(biāo)識別提供了新的解決方案。

俄羅斯也在俄烏沖突戰(zhàn)場上使用具備人工智能的武器，比如“柳葉刀-3”巡飛彈的彈載人工智能用于目標(biāo)搜索和識別，可以獨立找到預(yù)定的目標(biāo)并進(jìn)行攻擊。俄羅斯的無人戰(zhàn)車也在戰(zhàn)場上出現(xiàn)，比如MT-1無人掃雷車、“標(biāo)記”無人作戰(zhàn)車輛等。

為了適應(yīng)未來戰(zhàn)爭，俄國防部曾于2022年成立了人工智能武器研究部門，以加強(qiáng)人工智能技術(shù)的使用，發(fā)展新的特種裝備。

另一場備受矚目的沖突——巴以沖突也有不少具備人工智能技術(shù)的武器被運(yùn)用于戰(zhàn)場。據(jù)報道，以色列在進(jìn)攻加沙時，使用了一款名為“薰衣草”的人工智能系統(tǒng)來幫助識別哈馬斯武裝人員，識別目標(biāo)的數(shù)量和速度大大增加，以往以色列情報部門會在10天的工作中找到并批準(zhǔn)10個打擊目標(biāo)，現(xiàn)在他們10天的工作可以找到并批準(zhǔn)大約100個打擊目標(biāo)。

此外，人工智能修改、生成圖片和視頻——也可被用于戰(zhàn)時的信息戰(zhàn)或輿論戰(zhàn)。美國“連線”網(wǎng)站題為“生成式人工智能在以色列-哈馬斯之間的虛假信息戰(zhàn)中發(fā)揮了令人驚訝的作用”的文章稱，巴以沖突爆發(fā)后引發(fā)了前所未有的“虛假信息浪潮”，這是“算法驅(qū)動的戰(zhàn)爭迷霧”，使社交媒體陷入困境。

共同制定安全標(biāo)準(zhǔn)是出路

當(dāng)前，人工智能、合成生物學(xué)等新興技術(shù)的快速發(fā)展正在釋放巨大的應(yīng)用價值，同時也帶來難以預(yù)知的風(fēng)險和挑戰(zhàn)，攸關(guān)全人類的利益，如何確保新興技術(shù)的安全應(yīng)用成為各國關(guān)注的焦點。

美國國防分析研究所研究員，美國前助理國防部長幫辦施燦德在本屆北京香山論壇“人工智能安全”高端訪談中表示，有人工智能控制的無人機(jī)已經(jīng)在俄烏戰(zhàn)場上使用，還有在加沙，其他國家的軍隊也都在考慮人工智能相關(guān)的應(yīng)用，但是現(xiàn)在人們也在討論人工智能的安全和治理的問題，這也是沒有被涉足的領(lǐng)域。

談到人工智能的安全和風(fēng)險，人工智能能否自主決策、是否可信，如何管控人工智能可能帶來的風(fēng)險等問題備受關(guān)注。

人工智能算法“黑箱”的不透明性帶來了安全風(fēng)險，也使得社會信任問題正變得越來越復(fù)雜。對此，東京大學(xué)生產(chǎn)技術(shù)研究所特聘教授、日本工程院外籍院士胡昂表示，人工智能這個“黑箱”是否可信，這是一個終極問題。在他看來，人腦不可替代，“至少在短時間內(nèi)人工智能難以取代人腦做決策”。

聯(lián)合國教科文組織人工智能與數(shù)據(jù)科學(xué)促進(jìn)社會發(fā)展教席、荷蘭海牙應(yīng)用科技大學(xué)數(shù)據(jù)科學(xué)教授蘭普羅斯·斯特吉烏拉斯指出：“人類的技術(shù)人員都會犯錯，何況機(jī)器？”“人工智能是否能取代人腦自主決策，這是一個哲學(xué)問題，也是一個現(xiàn)實問題。”

參考消息網(wǎng)今年7月報道，美國趣味科學(xué)網(wǎng)站6月刊發(fā)《人工智能犯下的災(zāi)難性錯誤》的文章，文章列舉了人工智能的“災(zāi)難性”例子，提醒人工智能的風(fēng)險不可忽視。

據(jù)報道，英國廣播公司的一項調(diào)查發(fā)現(xiàn)，社交平臺正在利用AI刪除可能的戰(zhàn)爭罪行視頻，這些舉動可能會讓受害者在未來無法進(jìn)行正當(dāng)?shù)淖匪鳌Ｉ缃黄脚_在戰(zhàn)爭和社會動亂中發(fā)揮著關(guān)鍵作用，通常是那些面臨風(fēng)險的人的一種交流方式。調(diào)查發(fā)現(xiàn)，盡管公眾感興趣的圖文內(nèi)容可以保留在網(wǎng)站上，但有關(guān)在烏克蘭的襲擊的視頻會被迅速刪除。

這些“災(zāi)難性”例子還出現(xiàn)在人們的日常生活中，谷歌圖片在其AI軟件上搜索大猩猩時出現(xiàn)黑人的圖片后，曾不得不取消了這一功能。包括蘋果公司在內(nèi)的其他公司也曾因類似指控面臨訴訟。

施燦德認(rèn)為，人工智能的安全問題涉及方方面面，除了國防，還包括民生等。因此，他建議國家間達(dá)成多邊協(xié)議，緩解人工智能安全風(fēng)險。

在清華大學(xué)信息科學(xué)技術(shù)學(xué)院院長、中國工程院院士戴瓊海看來，未來三年，人工智能發(fā)展將進(jìn)入快車道。由于人工智能發(fā)展的不可預(yù)測性，相關(guān)倫理、治理要走在前面，要降低人工智能應(yīng)用的安全風(fēng)險，使其為人類謀福祉。

在專家看來，加強(qiáng)人工智能領(lǐng)域治理的國際合作尤其是大國間的合作尤其重要，共同制定安全標(biāo)準(zhǔn)能夠讓人工智能更好地造福人類。

今年5月14日，中美人工智能政府間對話首次會議在瑞士日內(nèi)瓦舉行。雙方介紹了各自對人工智能技術(shù)風(fēng)險的看法和治理舉措以及推動人工智能賦能經(jīng)濟(jì)社會發(fā)展采取的措施。雙方均認(rèn)識到人工智能技術(shù)發(fā)展既面臨機(jī)遇也存在風(fēng)險，重申繼續(xù)致力于落實兩國元首在舊金山達(dá)成的重要共識。

在施燦德看來，中美要確保溝通能夠持續(xù)進(jìn)行。“在新技術(shù)領(lǐng)域，雙方正逐漸達(dá)到某種程度的對等或平衡，這或許能促使雙方進(jìn)行更加坦誠和深入的對話。我們必須確保他們繼續(xù)努力保持溝通。”施燦德說。