2024年6月5日,以“AI驅(qū)動安全”為主題的2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會戰(zhàn)略峰會(以下簡稱“BCS大會”)在北京國家會議中心開幕。
在BCS大會開幕式上,全國工商聯(lián)副主席、中國民間商會副會長汪鴻雁,中國友誼促進會理事長、國家網(wǎng)信辦原副主任陳智敏,中國職業(yè)技術(shù)教育學(xué)會會長、教育部原副部長魯昕,北京市政府副秘書長許心超,中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長王營康,中國電子信息產(chǎn)業(yè)集團有限公司總經(jīng)理李立功致開幕辭。中國工程院院士、鵬城實驗室主任、北京大學(xué)博雅講席教授高文,中國工程院院士、同濟大學(xué)講席教授蔣昌俊,巴基斯坦NCERT主席、國際工程技術(shù)學(xué)會會士、英國計算機學(xué)會會士阿巴斯·海德爾,先進計算與關(guān)鍵軟件(信創(chuàng))海河實驗室主任、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克,Forrester副總裁兼高級研究總監(jiān)弗雷德里克·吉隆,國家電網(wǎng)有限公司副總信息師、中國電機工程學(xué)會會士王繼業(yè),全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東出席論壇并發(fā)表主旨演講。
2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會戰(zhàn)略峰會開幕式
“當(dāng)前,我國新一代人工智能正在與實體經(jīng)濟深度融合,廣泛應(yīng)用于社會民生領(lǐng)域,激發(fā)創(chuàng)新活力和社會潛能?!痹谥罗o中,陳智敏等多位嘉賓均表示,安全是發(fā)展的前提,發(fā)展是安全的保障,本次大會以“AI驅(qū)動安全”為主題,具有很強的前瞻性和現(xiàn)實意義。
本次大會歷時兩天,共舉辦2場峰會、20多場分論壇,2場大賽,邀請了來自10多個國家和地區(qū)的上百位專家學(xué)者、10多個行業(yè)領(lǐng)域的200多家企業(yè)的代表,分享人工智能發(fā)展的研究、實踐或建議,并就AI驅(qū)動安全在數(shù)據(jù)、能源、金融、交通、制造等領(lǐng)域的情況展開廣泛討論,預(yù)計吸引6000余人參會。
據(jù)了解,作為具有全球影響力的網(wǎng)絡(luò)安全大會,BCS大會已成功舉辦五屆,先后有來自中、美、俄、法、日、以等30多個國家和地區(qū),超2000位政要、行業(yè)領(lǐng)袖、網(wǎng)絡(luò)安全專家出席并分享精彩觀點。
AI重塑網(wǎng)絡(luò)安全發(fā)展態(tài)勢
“各行各業(yè)網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型加速,以數(shù)據(jù)為關(guān)鍵要素的新產(chǎn)業(yè),以人工智能為關(guān)鍵技術(shù)的新場景,面臨的安全挑戰(zhàn)更加復(fù)雜,各類攻擊威脅與日俱增。”許心超在致辭中說。
在王營康看來,人工智能帶來的安全挑戰(zhàn)和攻擊威脅尤其值得關(guān)注?!半S著人工智能技術(shù)的發(fā)展,攻擊者可利用人工智能技術(shù)生成網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)釣魚工具等,網(wǎng)絡(luò)安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化?!?br /> 根據(jù)奇安信發(fā)布的《2024人工智能安全報告》,AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅,又引入了新型威脅,引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級增長。其中,2023年基于AI的深度偽造欺詐暴增3000%,基于AI的釣魚郵件數(shù)量增長了1000%。一項對IT行業(yè)領(lǐng)導(dǎo)者進行的關(guān)于ChatGPT等大模型的調(diào)查顯示,安全性是受訪者最關(guān)心的問題,71%的受訪者認為生成式人工智能會給企業(yè)數(shù)據(jù)安全帶來新的風(fēng)險。
面對人工智能時代新的網(wǎng)絡(luò)安全態(tài)勢,2024年政府工作報告提到,“加強重點領(lǐng)域安全能力建設(shè)”“提高網(wǎng)絡(luò)、數(shù)據(jù)等安全保障能力”。在本次BCS大會上,與會嘉賓們呼吁進一步提高對網(wǎng)絡(luò)安全態(tài)勢的重視,強化體系化安全能力建設(shè)。
“數(shù)據(jù)安全是人工智能安全的前提和基礎(chǔ)。”陳智敏認為,要從網(wǎng)絡(luò)安全保衛(wèi)向數(shù)據(jù)安全保衛(wèi)的工作模式拓展,為構(gòu)建與數(shù)字生產(chǎn)力相適應(yīng)的新型生產(chǎn)關(guān)系奠定基礎(chǔ)。
魯昕指出,建設(shè)網(wǎng)絡(luò)安全強國、數(shù)字中國,培養(yǎng)符合網(wǎng)絡(luò)安全發(fā)展戰(zhàn)略需求的高素質(zhì)技術(shù)技能人才,是保障國家安全和贏得產(chǎn)業(yè)發(fā)展主動權(quán)的基礎(chǔ)和關(guān)鍵。
王營康建議,要統(tǒng)籌網(wǎng)絡(luò)安全各方力量,構(gòu)建大網(wǎng)絡(luò)安全工作格局,推動形成體系化防御能力;要統(tǒng)籌高質(zhì)量發(fā)展、與高水平安全,推動形成人工智能綜合治理體系;要堅持網(wǎng)絡(luò)安全教育、技術(shù)、產(chǎn)業(yè)融合發(fā)展,推動形成人才培養(yǎng)、技術(shù)創(chuàng)新、產(chǎn)業(yè)發(fā)展的良性生態(tài)。
AI激發(fā)網(wǎng)安行業(yè)新質(zhì)生產(chǎn)力
“AI驅(qū)動安全是大勢所趨,未來網(wǎng)絡(luò)攻防就是得AI者得天下。誰能提前抓住AI變革的機遇,誰就能掌握網(wǎng)絡(luò)空間安全的主動權(quán)。”在主旨演講中,齊向東判斷,當(dāng)前網(wǎng)絡(luò)安全格局正在被顛覆重構(gòu),但這種顛覆重構(gòu)不僅帶來新的安全挑戰(zhàn),也為網(wǎng)絡(luò)安全行業(yè)帶來前所未有的戰(zhàn)略機遇。
全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東
對此,阿巴斯·海德爾深表認同。他在題為《人工智能悖論:加強網(wǎng)絡(luò)安全還是加劇威脅》的主旨演講中說,大型語言模型(LLM)正徹底改變網(wǎng)絡(luò)安全形勢,AI在網(wǎng)絡(luò)安全領(lǐng)域帶來的既有挑戰(zhàn),也有機遇。例如,網(wǎng)絡(luò)罪犯會使用AI生成具有強欺騙性的網(wǎng)絡(luò)仿冒郵件,但企業(yè)也可以用AI完成威脅檢測和事件響應(yīng)、處置。
那么,如何盡快發(fā)揮AI賦能網(wǎng)絡(luò)安全的積極作用,實現(xiàn)“用魔法打敗魔法”?與會專家給出了豐富的解決方案。
“人工智能是新質(zhì)生產(chǎn)力,智能化大勢不可阻擋。不發(fā)展是最大的不安全,要發(fā)展AI促安全?!弊鳛槿斯ぶ悄苤卫眍I(lǐng)域的知名專家,龔克呼吁推進AI與網(wǎng)絡(luò)安全融合創(chuàng)新。
在龔克看來,一方面,人工智能的發(fā)展推動了網(wǎng)絡(luò)安全技術(shù)的創(chuàng)新。例如,基于深度學(xué)習(xí)的惡意軟件檢測、用戶行為分析等新技術(shù)不斷涌現(xiàn),提高了網(wǎng)絡(luò)安全的防護能力。另一方面,人工智能的自動化和智能化特性又可以大大提高網(wǎng)絡(luò)安全管理的效率。通過自動化檢測、響應(yīng)和風(fēng)險評估等流程,可以更快地應(yīng)對網(wǎng)絡(luò)威脅,減少潛在損失。
“既然AI這么好,是不是趕緊裝上一個AI大模型就可以了?”齊向東提醒,AI大模型不是萬能鑰匙。尤其是在當(dāng)前“百模大戰(zhàn)”的狀態(tài)下,只有高質(zhì)量發(fā)展的大模型,才能真正帶來指數(shù)級能力躍升,激發(fā)網(wǎng)絡(luò)安全行業(yè)的新質(zhì)生產(chǎn)力。
在齊向東看來,做好“AI驅(qū)動安全”至少需要具備三大條件:其一,高質(zhì)量的訓(xùn)練數(shù)據(jù);其二,縱深防御的內(nèi)生安全體系;其三,設(shè)備、體系具有統(tǒng)一的輸入輸出標(biāo)準(zhǔn)。
AI驅(qū)動安全成效初顯
“依托大數(shù)據(jù)平臺,加強人工智能與網(wǎng)絡(luò)安全的融合,研究基于人工智能的風(fēng)險異常檢測方法,開展網(wǎng)絡(luò)安全關(guān)聯(lián)分析、事件處置和調(diào)查溯源,強化網(wǎng)絡(luò)安全威脅監(jiān)測和應(yīng)急處置,實現(xiàn)網(wǎng)絡(luò)安全事件的智能響應(yīng)、聯(lián)動防御。”王繼業(yè)介紹了國家電網(wǎng)探索人工智能在“守護網(wǎng)絡(luò)安全,助力能源轉(zhuǎn)型”中的最新實踐情況。
實際上,不僅局限于電力能源領(lǐng)域,很多機構(gòu)正快速推進AI在網(wǎng)絡(luò)安全領(lǐng)域落地生根,“AI驅(qū)動安全”已呈現(xiàn)出百花齊放之勢。例如,作為網(wǎng)絡(luò)安全領(lǐng)域原創(chuàng)技術(shù)策源地總體單位,奇安信以科技創(chuàng)新推動產(chǎn)業(yè)創(chuàng)新,于今年3月對外正式發(fā)售了“AI驅(qū)動安全”的代表性產(chǎn)品:QAX-GPT安全機器人。
據(jù)介紹,目前QAX-GPT安全機器人已經(jīng)被應(yīng)用于金融、能源、交通等多個領(lǐng)域的頭部企業(yè),帶來了威脅發(fā)現(xiàn)和研判、安全運營、智能攻防等能力的提升與飛躍。其中,QAX-GPT安全機器人對真實網(wǎng)絡(luò)風(fēng)險事件研判準(zhǔn)確率接近100%,可以消除80%以上無效告警,助力企業(yè)網(wǎng)絡(luò)安全運營效率提升逾60倍。
隨著網(wǎng)絡(luò)安全領(lǐng)域智能化產(chǎn)品落地,相關(guān)市場的規(guī)??焖僭鲩L。有關(guān)統(tǒng)計顯示,網(wǎng)絡(luò)安全領(lǐng)域的人工智能產(chǎn)品市場將從2017年的39.2億美元增長到2025年的348.1億美元,預(yù)測期內(nèi)的復(fù)合年增長率為31.38%。
據(jù)許心超介紹,北京市已將數(shù)字安全產(chǎn)業(yè)作為全市重點發(fā)展的高精尖產(chǎn)業(yè),目前已經(jīng)匯聚數(shù)字安全企業(yè)1025家;2023年北京市數(shù)字安全企業(yè)收入達到996億元,產(chǎn)業(yè)帶動作用凸顯。
“人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù),是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。本次大會以‘AI驅(qū)動安全’為主題,旨在將AI作為網(wǎng)絡(luò)安全的驅(qū)動力,幫助專家快速地識別、追溯和處置安全威脅,提升網(wǎng)絡(luò)安全防御的智能化水平?!闭雇磥?#xff0c;李立功對AI驅(qū)動安全的進一步落地應(yīng)用充滿了期待。
相關(guān)稿件