作者：上海三零衛士信息安全有限公司  仵大奎

近年來，人工智能（Artificial Intelligence）作為重要的賦能工具在智慧交通、智慧金融、智慧能源、安全監管等領域獲得了越來越多得應用，極大地促進了行業發展，然而科技是把雙刃劍，當人工智能被大規模應用于社會生活的方方面面時，也引入了道德倫理和技術風險，其影響是全方位的。道德倫理風險主要指在社會生活某些方面或場景下，非生物智能機器對既有人類社會道德和法律帶來的沖擊，技術風險主要是指人工智能作為一種技術手段，由于其本身技術的不成熟性（算法漏洞）或其賦能場景的不成熟性（軟硬件漏洞）所造成的潛在負面效應，在網絡安全領域這種風險若不加管控，其造成的危害將會無限放大。

1，人工智能在網絡安全領域的應用

隨著攻防策略的不斷創新和發展，網絡攻擊的復雜性和數量也在增加，潛在的攻擊者將人工智能的優勢與攻擊方法或工具相結合，可根據網絡防御體系的差異不斷變化策略，通過試探尋找潛在的攻擊漏洞從而達到其目的，而復雜的黑客技術（例如混淆，多態等）也會對惡意程序的識別造成一定的困難。凱捷（Capgemini）最近發布了一份基于AI的網絡安全報告，其中提到42％的研究公司通過對時間敏感的應用程序分析，發現了很多自主性安全攻擊事件。Gmail使用機器學習來每天攔截1億個垃圾郵件，IBM的Watson認知培訓使用機器學習來檢測網絡威脅和其他網絡安全解決方案。Google正在其Cloud Video Intelligence平臺上使用深度學習AI，通過結合服務器上的內容和上下文分析存儲在服務器上的視頻，一經發現可疑信息AI算法就會發送安全警報。

相應地，AI可通過有效地分析用戶行為，推導模式并識別網絡中的各種異常或不正常情況，據此來快速輕松地識別網絡漏洞和攻擊，而現有依賴于人類智能的防御手段在基于AI算法的惡意網絡程序攻擊時形同虛設。另一方面，利用“監督學習”機制，AI可自動化地識別重復發生的事件并進行補救，還可通過內部威脅和設備管理以最少的人工干預來識別和應對復雜的網絡攻擊。

2，人工智能漏洞風險和攻擊

人工智能最大的風險之一是黑客可以使用AI大規模自動化網絡攻擊，對抗機器學習的研究表明，在使AI模型對數據中毒和對抗輸入產生魯棒性訓練時，當使用敏感數據訓練這些模型時，會帶來一組新的安全漏洞風險：即潛在威脅者能夠訪問訓練數據或從模型本身推斷訓練數據點。從這種類型的推理攻擊中得到的AI防護模型，使它們更容易受到上述對抗性機器學習策略的影響，反之亦然。在理想情況下，采用一定的審核機制可降低在對抗性機器學習和模型數據泄漏方面產生的AI模型漏洞，并通過以AI為重點的紅隊形式評估其整體魯棒性和對不同形式攻擊的彈性。

基于漏洞的 AI攻擊與傳統的網絡攻擊根本不同，傳統網絡攻擊由代碼中的“錯誤”或人為錯誤切入，AI攻擊是由當前無法修復的基礎AI算法固有的局限性引起的。此外，AI攻擊從根本上擴展了可用于執行網絡攻擊的實體集，基于AI的網絡攻擊可以將物理對象列為網絡攻擊目標（例如，AI攻擊只需將幾條膠帶放在停車標志本身上，就可以將停車標志變成自動駕駛汽車眼睛中的綠燈）。所以，人工智能攻擊是對AI系統的有目的操縱，其最終目標是導致其故障或失效，這類攻擊具有不同的形式：

l  輸入攻擊：操縱輸入到AI系統中的內容達到更改系統的輸出參數達到攻擊者的目標，每個AI系統的核心都是一臺簡單的需要輸入的機器，其過程是執行一些計算并返回輸出，所以通過操縱輸入可以使攻擊者影響系統的輸出。

l  中毒攻擊：破壞AI系統的創建過程，從而導致系統以攻擊者期望的方式發生故障，執行中毒攻擊的一種直接方法是破壞進程中的數據，支持AI的最先進的機器學習方法是通過“學習”完成任務的方法來工作的，其學習的來源是輸入訓練數據，通過影響數據即可達到影響AI系統的目的，中毒攻擊也可能損害學習過程的本身。

3，安全防護手段

另一方面，隨著網絡安全攻擊手段的快速演進，基于AI的安全防護技術正發揮越來越大的作用，在密碼保護和身份驗證方面：密碼在安全性方面一直是非常脆弱的部分，由于弱口令漏洞的廣泛存在，使得不法分子獲得了可乘之機，若采用基于AI的動態防護口令，可大大提升暴力破解的時間和難度。此外，隨便生物身份認證的廣泛應用，使用AI增強生物識別身份驗證的相關技術愈加成熟，如在iPhone X設備上使用的蘋果面部識別技術，通過內置的紅外傳感器和神經引擎處理用戶的面部特征從而發揮作用。通過使用這項技術，只有100萬機會欺騙AI算法并以另一張面孔打開設備，AI軟件還可以在不同的光照條件下工作，產生新發型，留胡子，戴帽子等變化。

針對AI-ML(Machine-Learning)用于網絡釣魚檢測方面：網絡釣魚是一種最常用的網絡攻擊方法，黑客試圖通過網絡釣魚攻擊來傳遞其有效負載，電子郵件是網絡釣魚常用的一種媒介，據統計每99封電子郵件中就有一個包含網絡釣魚攻擊，AI-ML可以在預防和阻止網絡釣魚攻擊中發揮重要作用。AI-ML可以檢測和跟蹤超過10,000種活躍的網絡釣魚源，并且比人類能夠更快地做出反應和補救。AI-ML可以同時掃描來自世界各地的網絡釣魚威脅，對網絡釣魚活動的識別不存在地理區域的限制。

4，總結

人工智能（AI）技術的快速發展對工業和社會產生了重要影響，盡管其在網絡安全防護方面具有諸多顯著的優勢，但仍存在被惡意利用的可能性，一旦與常規攻擊技術相結合可能會對網絡空間造成更大的威脅和破壞，隨著AI技術在網絡安全攻防方面的深入應用，必將對行業發展方向產生深遠影響。