AI驅動安全：2024 GDEC數字安全高層論壇在京召開

2024年6月5日，以“AI驅動安全”為主題的2024全球數字經濟大會（GDEC）數字安全高層論壇暨北京網絡安全大會戰略峰會（以下簡稱“BCS”）在北京國家會議中心開幕。

在大會開幕式上，全國工商聯副主席、中國民間商會副會長汪鴻雁，中國友誼促進會理事長、國家網信辦原副主任陳智敏，中國職業技術教育學會會長、教育部原副部長魯昕，北京市政府副秘書長許心超，中央網信辦網絡安全協調局副局長王營康，中國電子信息産業集團有限公司總經理李立功致開幕辭。中國工程院院士、鵬城實驗室主任、北京大學博雅講席教授高文，中國工程院院士、同濟大學講席教授蔣昌俊，巴基斯坦NCERT主席、國際工程技術學會會士、英國計算機學會會士阿巴斯·海德爾，先進計算與關鍵軟體（信創）海河實驗室主任、中國新一代人工智慧發展戰略研究院執行院長龔克，Forrester 副總裁兼高級研究總監弗雷德里克·吉隆，國家電網有限公司副總信息師、中國電機工程學會會士王繼業，全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東出席論壇併發表主旨演講。

2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會戰略峰會開幕式

“當前，我國新一代人工智慧正在與實體經濟深度融合，廣泛應用於社會民生領域，激發創新活力和社會潛能。”在致辭中，陳智敏等多位嘉賓均表示，安全是發展的前提，發展是安全的保障，本次大會以“AI驅動安全”為主題，具有很強的前瞻性和現實意義。

本次大會歷時兩天，共舉辦2場峰會、20多場分論壇，2場大賽，邀請了來自10多個國家和地區的上百位專家學者、10多個行業領域的200多家企業的代表，分享人工智慧發展的研究、實踐或建議，並就AI驅動安全在數據、能源、金融、交通、製造等領域的情況展開廣泛討論，預計吸引6000余人參會。

據了解，作為具有全球影響力的網絡安全大會，BCS大會已成功舉辦五屆，先後有來自中、美、俄、法、日、以等30多個國家和地區，超2000位政要、行業領袖、網絡安全專家出席並分享精彩觀點。

AI重塑網絡安全發展態勢

“各行各業網絡化、數字化、智慧化轉型加速，以數據為關鍵要素的新産業，以人工智慧為關鍵技術的新場景，面臨的安全挑戰更加複雜，各類攻擊威脅與日俱增。”許心超在致辭中説。

    在王營康看來，人工智慧帶來的安全挑戰和攻擊威脅尤其值得關注。“隨著人工智慧技術的發展，攻擊者可利用人工智慧技術生成網絡攻擊和網絡釣魚工具等，網絡安全從人人對抗、人機對抗逐漸向基於人工智慧的攻防對抗演化。”

根據奇安信發佈的《2024人工智慧安全報告》，AI既放大現有網絡安全威脅，又引入了新型威脅，引發網絡安全事件指數級增長。其中，2023年基於AI的深度偽造欺詐暴增3000%，基於AI的釣魚郵件數量增長了1000%。一項對IT行業領導者進行的關於ChatGPT等大模型的調查顯示，安全性是受訪者最關心的問題，71％的受訪者認為生成式人工智慧會給企業數據安全帶來新的風險。

面對人工智慧時代新的網絡安全態勢，2024年政府工作報告提到，“加強重點領域安全能力建設”“提高網絡、數據等安全保障能力”。在本次BCS大會上，與會嘉賓們呼籲進一步提高對網絡安全態勢的重視，強化體系化安全能力建設。

“數據安全是人工智慧安全的前提和基礎。” 陳智敏認為，要從網絡安全保衛向數據安全保衛的工作模式拓展，為構建與數字生産力相適應的新型生産關係奠定基礎。

魯昕指出，建設網絡安全強國、數字中國，培養符合網絡安全發展戰略需求的高素質技術技能人才，是保障國家安全和贏得産業發展主動權的基礎和關鍵。

王營康建議，要統籌網絡安全各方力量，構建大網絡安全工作格局，推動形成體系化防禦能力；要統籌高質量發展與高水平安全，推動形成人工智慧綜合治理體系；要堅持網絡安全教育、技術、産業融合發展，推動形成人才培養、技術創新、産業發展的良性生態。

AI激發網安行業新質生産力

“AI驅動安全是大勢所趨，未來網絡攻防就是得AI者得天下。誰能提前抓住AI變革的機遇，誰就能掌握網絡空間安全的主動權。”在主旨演講中，齊向東判斷，當前網絡安全格局正在被顛覆重構，但這種顛覆重構不僅帶來新的安全挑戰，也為網絡安全行業帶來前所未有的戰略機遇。 

全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東

對此，阿巴斯·海德爾深表認同。他在題為《人工智慧悖論：加強網絡安全還是加劇威脅》的主旨演講中説，大型語言模型（LLM）正徹底改變網絡安全形勢，AI在網絡安全領域帶來的既有挑戰，也有機遇。例如，網絡罪犯會使用AI生成具有強欺騙性的網絡倣冒郵件，但企業也可以用AI完成威脅檢測和事件響應、處置。

那麼，如何儘快發揮AI賦能網絡安全的積極作用，實現“用魔法打敗魔法”？與會專家給出了豐富的解決方案。

“人工智慧是新質生産力，智慧化大勢不可阻擋。不發展是最大的不安全，要發展AI促安全。” 作為人工智慧治理領域的知名專家，龔克呼籲推進AI與網絡安全融合創新。

在龔克看來，一方面，人工智慧的發展推動了網絡安全技術的創新。例如，基於深度學習的惡意軟體檢測、用戶行為分析等新技術不斷涌現，提高了網絡安全的防護能力。另一方面，人工智慧的自動化和智慧化特性又可以大大提高網絡安全管理的效率。通過自動化檢測、響應和風險評估等流程，可以更快地應對網絡威脅，減少潛在損失。

“既然AI這麼好，是不是趕緊裝上一個AI大模型就可以了？”齊向東提醒，AI大模型不是萬能鑰匙。尤其是在當前“百模大戰”的狀態下，只有高質量發展的大模型，才能真正帶來指數級能力躍升，激發網絡安全行業的新質生産力。

在齊向東看來，做好“AI驅動安全”至少需要具備三大條件：其一，高質量的訓練數據；其二，縱深防禦的內生安全體系；其三，設備、體系具有統一的輸入輸出標準。

AI驅動安全成效初顯

“依託大數據平臺，加強人工智慧與網絡安全的融合，研究基於人工智慧的風險異常檢測方法，開展網絡安全關聯分析、事件處置和調查溯源，強化網絡安全威脅監測和應急處置，實現網絡安全事件的智慧響應、聯動防禦。”王繼業介紹了國家電網探索人工智慧在“守護網絡安全，助力能源轉型”中的最新實踐情況。

實際上，不僅局限于電力能源領域，很多機構正快速推進AI在網絡安全領域落地生根，“AI驅動安全”已呈現出百花齊放之勢。例如，作為網絡安全領域原創技術策源地總體單位，奇安信以科技創新推動産業創新，於今年3月對外正式發售了“AI驅動安全”的代表性産品：QAX-GPT安全機器人。

據介紹，目前QAX-GPT安全機器人已經被應用於金融、能源、交通等多個領域的頭部企業，帶來了威脅發現和研判、安全運營、智慧攻防等能力的提升與飛躍。其中，QAX-GPT安全機器人對真實網絡風險事件研判準確率接近100%，可以消除80%以上無效告警，助力企業網絡安全運營效率提升逾60倍。

隨著網絡安全領域智慧化産品落地，相關市場的規模快速增長。有關統計顯示，網絡安全領域的人工智慧産品市場將從2017年的39.2億美元增長到2025年的348.1億美元，預測期內的複合年增長率為31.38%。

據許心超介紹，北京市已將數字安全産業作為全市重點發展的高精尖産業，目前已經匯聚數字安全企業1025家；2023年北京市數字安全企業收入達到996億元，産業帶動作用凸顯。

“人工智慧是引領未來的戰略性技術，是新一輪科技革命和産業變革的重要驅動力量。本次大會以‘AI驅動安全’為主題，旨在將AI作為網絡安全的驅動力，幫助專家快速的識別、追溯和處置安全威脅，提升網絡安全防禦的智慧化水平。”展望未來，李立功對AI驅動安全的進一步落地應用充滿了期待。