AIGC的深入發(fā)展和快速普及,打開(kāi)了智能世界廣袤的想象空間,但在技術(shù)成果涌現(xiàn)之際,隨之而來(lái)的模型安全、數(shù)據(jù)安全、內(nèi)容安全問(wèn)題也日益凸顯,如何應(yīng)對(duì)AIGC引發(fā)攻防范式轉(zhuǎn)化的新趨勢(shì),如何規(guī)避數(shù)據(jù)和隱私泄露風(fēng)險(xiǎn),有效保障內(nèi)容生成的安全合規(guī),正成為擺在行業(yè)面前的切實(shí)難題。
近日,在紫光股份旗下新華三集團(tuán)2024媒體與分析師溝通會(huì)上,新華三集團(tuán)高級(jí)副總裁、新華三信息安全技術(shù)有限公司總裁孫松兒接受多家媒體專(zhuān)訪(fǎng),深入分享了新華三主動(dòng)安全3.0在全面智能化升級(jí)、創(chuàng)新場(chǎng)景新范式以及全面國(guó)產(chǎn)化三大維度的能力進(jìn)化,為強(qiáng)化AIGC數(shù)據(jù)安全治理,落實(shí)AIGC應(yīng)用規(guī)范,推動(dòng)業(yè)務(wù)安全防護(hù)帶來(lái)了全新的解題思路。
新華三集團(tuán)高級(jí)副總裁新華三信息安全技術(shù)有限公司總裁孫松兒
安全×AI 提升安全能力正向循環(huán)
對(duì)于AIGC為代表的大模型技術(shù)及其應(yīng)用而言,發(fā)展和安全是一體兩翼的統(tǒng)一整體,必須統(tǒng)籌規(guī)劃、同步推進(jìn)。孫松兒表示,新華三集團(tuán)安全視角下的AIGC是基于“主動(dòng)安全”理念,首先滿(mǎn)足大模型應(yīng)用的安全新需求,同時(shí)將AIGC作為新工具、新能力,賦能安全能力的提升,即“安全是保障AIGC實(shí)戰(zhàn)的核心基石,AIGC是提升安全能力的最佳手段”。為實(shí)現(xiàn)AIGC發(fā)展與安全能力提升的正向循環(huán),基于靈犀大模型的AI能力,新華三重磅打造靈犀助手,為安全體系建設(shè)、運(yùn)營(yíng)效率提升、業(yè)務(wù)持續(xù)發(fā)展注入更深層次的智能,并提出大模型安全合規(guī)與防護(hù)新思路——以靈犀衛(wèi)士實(shí)現(xiàn)大模型安全防護(hù),以靈犀助手實(shí)現(xiàn)大模型賦能安全。
大模型自身的安全防護(hù),貫穿從訓(xùn)練階段到運(yùn)行階段的全過(guò)程,需要解決垂直領(lǐng)域大模型訓(xùn)練難點(diǎn)、大模型環(huán)境網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)以及大模型生成內(nèi)容合規(guī)風(fēng)險(xiǎn)等諸多難題。其中,內(nèi)容安全合規(guī)是大模型發(fā)展的第一要?jiǎng)?wù),國(guó)家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》中,著重強(qiáng)調(diào)了安全合規(guī)的重要性。面對(duì)AIGC內(nèi)容安全要求,孫松兒認(rèn)為應(yīng)從輸入側(cè)、模型側(cè)、輸出側(cè)三個(gè)層面著手,對(duì)違規(guī)信息進(jìn)行過(guò)濾和規(guī)避。為此,新華三集團(tuán)構(gòu)建了完整的AIGC內(nèi)容安全防護(hù)體系,通過(guò)Prompt審核與改寫(xiě)、生成內(nèi)容過(guò)濾、紅線(xiàn)知識(shí)庫(kù)等方式,靈犀衛(wèi)士可監(jiān)測(cè)用戶(hù)輸入和生成內(nèi)容,識(shí)別各類(lèi)違規(guī)風(fēng)險(xiǎn),全面保障內(nèi)容合規(guī),整體內(nèi)容風(fēng)險(xiǎn)可下降近80%。? ?
在大模型賦能安全方面,孫松兒指出,安全大模型正在引發(fā)“效率革命”,為安全運(yùn)營(yíng)帶來(lái)跨越式提升。以大模型技術(shù)打造的靈犀助手,現(xiàn)已全面內(nèi)嵌到安全產(chǎn)品、管理平臺(tái)及各類(lèi)運(yùn)營(yíng)運(yùn)維工具中,通過(guò)安全使能平臺(tái)打通大模型和業(yè)務(wù)場(chǎng)景,在攻擊研判、資產(chǎn)梳理、合規(guī)檢查、智能預(yù)測(cè)等方面實(shí)現(xiàn)全方位的運(yùn)營(yíng)效率提升。比如在失陷事件研判中,通過(guò)AIGC輔助分析,研判效率可提升50%,在風(fēng)險(xiǎn)響應(yīng)處置中,AIGC可根據(jù)訓(xùn)練經(jīng)驗(yàn)直接給出準(zhǔn)確的處置建議,快速生成處置報(bào)告,實(shí)現(xiàn)風(fēng)險(xiǎn)處置的事半功倍,讓人力從繁雜的基礎(chǔ)工作中解放出來(lái)。
打造場(chǎng)景化新范式 賦能網(wǎng)絡(luò)安全場(chǎng)景化落地
從技術(shù)研發(fā)到實(shí)際應(yīng)用,網(wǎng)絡(luò)安全如何跨越實(shí)驗(yàn)室與產(chǎn)業(yè)鏈的鴻溝,在具體行業(yè)和場(chǎng)景中實(shí)現(xiàn)價(jià)值的實(shí)質(zhì)性提升,是當(dāng)前行業(yè)關(guān)注的焦點(diǎn)。對(duì)此,孫松兒表示,當(dāng)下垂直行業(yè)的安全需求差異較大,需要建立場(chǎng)景化思維捕捉不同行業(yè)的實(shí)際安全需求,構(gòu)建基于客戶(hù)業(yè)務(wù)本身的場(chǎng)景化新范式。
在場(chǎng)景化探索方面,新華三集團(tuán)深耕車(chē)聯(lián)網(wǎng)、數(shù)字政府、運(yùn)營(yíng)商等重點(diǎn)行業(yè)場(chǎng)景,為多場(chǎng)景業(yè)務(wù)打造按需交付的算網(wǎng)安融合解決方案,通過(guò)構(gòu)建分布式安全資源池,借助SRv6彈性可編程、性能可度量、隔離有保障的優(yōu)勢(shì),實(shí)現(xiàn)網(wǎng)絡(luò)與安全服務(wù)的端到端業(yè)務(wù)鏈打通與安全編排,保障數(shù)據(jù)和業(yè)務(wù)的安全穩(wěn)定運(yùn)行。在車(chē)聯(lián)網(wǎng)安全領(lǐng)域,新華三面向車(chē)路協(xié)同、車(chē)聯(lián)網(wǎng)運(yùn)營(yíng)以及車(chē)聯(lián)網(wǎng)人才培養(yǎng)場(chǎng)景,打造車(chē)聯(lián)網(wǎng)安全解決方案,全面保障車(chē)聯(lián)網(wǎng)端側(cè)、路側(cè)及云端安全。而圍繞數(shù)據(jù)流轉(zhuǎn)的全生命周期,新華三打造了基于AI的數(shù)據(jù)安全治理與運(yùn)營(yíng)平臺(tái),以大模型技術(shù)賦能數(shù)據(jù)分類(lèi)分級(jí)、數(shù)據(jù)動(dòng)態(tài)圖譜及數(shù)據(jù)安全管理,實(shí)現(xiàn)數(shù)據(jù)流通的可感、可知、可管、可控。??
全面國(guó)產(chǎn)化 樹(shù)立國(guó)產(chǎn)化安全新標(biāo)桿
此外,新華三集團(tuán)全面深化安全產(chǎn)品體系及國(guó)產(chǎn)化布局,推出業(yè)內(nèi)首個(gè)內(nèi)嵌AIGC的旗艦防火墻產(chǎn)品,打造全面支持國(guó)產(chǎn)化的安全運(yùn)營(yíng)中心、數(shù)據(jù)安全治理中心以及云安全平臺(tái),樹(shù)立國(guó)產(chǎn)化安全能力新標(biāo)桿,40+安全原子能力全面適配國(guó)產(chǎn)化,包括主流的國(guó)產(chǎn)化操作系統(tǒng)及軟硬件,全面保障終端、邊界、應(yīng)用以及數(shù)據(jù)安全。? ?
作為新質(zhì)生產(chǎn)力的代表,AIGC是新一輪產(chǎn)業(yè)變革的核心引擎,網(wǎng)絡(luò)安全則是護(hù)航AIGC行穩(wěn)致遠(yuǎn)的基石底座。作為網(wǎng)絡(luò)安全領(lǐng)域的領(lǐng)軍企業(yè),新華三集團(tuán)將秉持“精耕務(wù)實(shí),為時(shí)代賦智慧”的理念,持續(xù)推進(jìn)“安全×AI”的技術(shù)創(chuàng)新和場(chǎng)景化應(yīng)用,以網(wǎng)絡(luò)安全和AIGC的雙向賦能,助力百行百業(yè)在數(shù)字化轉(zhuǎn)型之路上鏗鏘前行。
相關(guān)稿件