“AI（人工智能）的快速發展正在加劇安全威脅，如數據泄露、欺詐攻擊、社會治理安全等。以生成式AI能快速生成釣魚郵件、編寫惡意軟件與代碼等，導致攻擊數量增加，AI欺詐事件頻發。”

全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東

澎湃新聞記者獲悉，在2024年全國兩會上，全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東帶來兩份提案，高度關注AI技術的快速發展所帶來的安全挑戰。

數據顯示，生成式AI導致網絡釣魚郵件攻擊增長135%。此外，AI還帶來數據非法獲取、數據泄露及惡意濫用等數據安全問題，如ChatGPT在對話交互過程中能獲取用戶數據，加劇數據泄露風險。不法分子還能利用“深度偽造”換臉變聲、偽造視頻，“眼見未必為實”將成為常態。

齊向東表示，人工智能大幅降低網絡攻擊門檻，不懂代碼、不懂技術的普通人也能成為黑客，增加網絡攻擊數量，專業的黑客組織可以利用人工智能對網絡攻擊進行改造升級，利用AI制作惡意軟件、生成規避殺毒軟件檢測的代碼等，網絡攻擊能力將出現躍升。

在AI算法攻擊方面，機器視覺攻擊、數據源污染等攻擊頻發，攻擊者能通過對抗樣本、數據投毒、模型竊取等方式對AI算法進行攻擊，使其產生錯誤判斷，同時由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范。

對此，齊向東建議，要大力探索“AI+安全”創新應用，提高應對網絡空間安全風險與不確定性的能力，搶占國家安全的人工智能戰略制高點，護航中國式現代化。

要開展聯合創新，圍繞攻防實戰和應用場景實現“AI+安全”尖端技術研發突破。建議鼓勵各行業頭部企業與專業安全廠商結成創新聯合體，在關鍵行業選取典型場景開展聯合創新，共同探索大模型安全創新產品在威脅檢測、漏洞挖掘、指揮研判等方面的應用，在實戰中推動“AI+安全”進入越用越強的良性循環。

要強化政策牽引，推動“AI+安全”技術創新產品在各行業落地應用。建議像支持新能源汽車的發展一樣，支持“AI+安全”發展，設置專項基金，對研發創新“AI+安全”產品的企業，給予政府基金、貼息貸款或科研項目等支持。

從人才方面來看，要壯大“AI+安全”領域的實戰型、復合型人才隊伍。隨著AI技術的普及和應用領域的不斷擴展，國內AI人才嚴重短缺。工信部數據顯示，人工智能不同技術方向崗位的人才供需比均低于0.4，其中智能語音和計算機視覺的崗位人才供需比分別為0.08、0.09，相關人才極度稀缺。建議充分發揮民營企業在人才培養上的優勢，鼓勵成立校企共同體，在實踐中培養更多大數據、人工智能、網絡安全等新興產業領軍人才。