8月9日，以“安(an)(an)全即服務(wu) 開(kai)啟人工(gong)智能(neng)(neng)時代(dai)數(shu)(shu)字安(an)(an)全新范式(shi)”為(wei)主題的“ISC 2023第十一屆互聯(lian)網(wang)安(an)(an)全大會”在(zai)北京開(kai)幕。與(yu)(yu)會嘉賓表示，人工(gong)智能(neng)(neng)時代(dai)的數(shu)(shu)據安(an)(an)全問題尤(you)為(wei)突出，解決AI大模型安(an)(an)全問題需(xu)要技術(shu)、監(jian)管共同發力；應前瞻布(bu)局人工(gong)智能(neng)(neng)與(yu)(yu)網(wang)絡安(an)(an)全技術(shu)融(rong)合創新，增強產(chan)業鏈、供應鏈韌性和安(an)(an)全水平。

　　AI大模型安全成熱點

　　當前，AI大(da)模(mo)型(xing)安全(quan)(quan)問題成為影響AI行業深入發(fa)展的熱點話題。中(zhong)央網信(xin)辦網絡安全(quan)(quan)協調(diao)局副局長(chang)羅(luo)鋒盈表(biao)示(shi)，生(sheng)(sheng)(sheng)成式人工(gong)智能大(da)力推動我國經濟社會發(fa)展，同時存(cun)在(zai)生(sheng)(sheng)(sheng)成信(xin)息準確性、真實性等亟(ji)需解(jie)決的問題。中(zhong)國工(gong)程院(yuan)院(yuan)士鄔江興表(biao)示(shi)，AI大(da)模(mo)型(xing)存(cun)在(zai)“三(san)不可”內(nei)生(sheng)(sheng)(sheng)安全(quan)(quan)個性問題，以及漏洞、后門(men)等內(nei)生(sheng)(sheng)(sheng)安全(quan)(quan)共性問題。

　　“人工智能的應用系統由基礎軟硬件(jian)、數據系統和人工智能算法、模型和上層應用組(zu)成，自(zi)身存(cun)在(zai)內(nei)(nei)生安(an)全(quan)問(wen)題。”鄔江(jiang)興介(jie)紹，深度(du)學(xue)習(xi)(xi)AI模型存(cun)在(zai)“三不(bu)可(ke)(ke)”內(nei)(nei)生安(an)全(quan)個性(xing)(xing)問(wen)題，這也是AI技術的基因(yin)缺陷。一是神經(jing)網(wang)絡“黑箱”特(te)點(dian)導致人工智能存(cun)在(zai)不(bu)可(ke)(ke)解釋性(xing)(xing)；二是深度(du)學(xue)習(xi)(xi)對訓練(lian)樣本過(guo)度(du)依賴，導致學(xue)習(xi)(xi)結果的不(bu)可(ke)(ke)判定(ding)性(xing)(xing)；三是神經(jing)網(wang)絡前向推進過(guo)程的不(bu)可(ke)(ke)逆，導致結果不(bu)可(ke)(ke)推論性(xing)(xing)。

　　此外，內(nei)生(sheng)安(an)(an)(an)全(quan)共性問題不可忽視。“AI應(ying)用系(xi)統(tong)硬件環(huan)境總要放(fang)在(zai)服(fu)務器上，有操作系(xi)統(tong)、CPU、存儲(chu)器等，這些數(shu)據軟硬件環(huan)節存在(zai)漏洞、后門等內(nei)生(sheng)安(an)(an)(an)全(quan)共性問題。內(nei)生(sheng)安(an)(an)(an)全(quan)個性和共性問題往(wang)往(wang)是交織(zhi)存在(zai)的(de)，使(shi)(shi)得AI應(ying)用系(xi)統(tong)的(de)安(an)(an)(an)全(quan)問題變得極其復(fu)雜，給政府、企業(ye)使(shi)(shi)用和維護應(ying)用帶來前所未有的(de)挑(tiao)戰。”鄔江興(xing)表(biao)示(shi)。

　　“人工智能時代的數(shu)(shu)據(ju)(ju)安(an)全問題(ti)尤(you)為突(tu)出(chu)。”中國工程院(yuan)院(yuan)士、ISC名譽主席鄔(wu)賀銓(quan)認為，大(da)模型(xing)訓練(lian)(lian)依托海量(liang)數(shu)(shu)據(ju)(ju)，開源數(shu)(shu)據(ju)(ju)集(ji)、互聯網(wang)數(shu)(shu)據(ju)(ju)容(rong)易得到，但數(shu)(shu)據(ju)(ju)集(ji)的質量(liang)值得推(tui)敲(qiao)。如果拿這(zhe)些數(shu)(shu)據(ju)(ju)來訓練(lian)(lian)，內容(rong)風險(xian)程度可想而知(zhi)。如果用企業自有數(shu)(shu)據(ju)(ju)進行(xing)大(da)模型(xing)訓練(lian)(lian)，就要考慮數(shu)(shu)據(ju)(ju)泄露的安(an)全風險(xian)。

　　羅鋒盈表示，要把數(shu)據(ju)資(zi)源真正轉換成數(shu)字經濟的發展(zhan)動力(li)，不僅要看地區總量上存儲的數(shu)據(ju)規模(mo)有(you)多大，還要看真正可提供、可共享給企業、機構、個人的數(shu)據(ju)有(you)多少。

　　鄔(wu)賀銓(quan)稱，當前AI安全(quan)評(ping)估(gu)(gu)工(gong)作主要(yao)由企(qi)業自(zi)己負責，不少互聯(lian)網公司(si)有(you)安全(quan)評(ping)估(gu)(gu)資質(zhi)，國家也(ye)有(you)安全(quan)評(ping)估(gu)(gu)中心(xin)，但仍有(you)很多(duo)安全(quan)問題沒有(you)被評(ping)估(gu)(gu)出來。“人工(gong)智能(neng)技術發展和它帶來的安全(quan)問題，我們認(ren)識還不夠。”鄔(wu)賀銓(quan)坦言。

　　堅持協同創新

　　業(ye)內人士表(biao)示，AI大(da)模型安全(quan)問題(ti)需要(yao)企業(ye)、監管(guan)部門(men)共同發力。

　　從技(ji)術解決辦法(fa)來看，網絡安全(quan)企(qi)業、參(can)與AI大模型技(ji)術研(yan)發和產品開發的企(qi)業是(shi)解決安全(quan)問題的主力軍。

　　“AI大(da)模(mo)(mo)型安(an)(an)全(quan)(quan)超(chao)越許多傳統安(an)(an)全(quan)(quan)經驗，不能(neng)(neng)用(yong)解(jie)(jie)決網(wang)絡安(an)(an)全(quan)(quan)的思(si)想(xiang)解(jie)(jie)決數據安(an)(an)全(quan)(quan)問(wen)題(ti)，不能(neng)(neng)簡單利用(yong)解(jie)(jie)決數據安(an)(an)全(quan)(quan)的思(si)路解(jie)(jie)決人(ren)工智能(neng)(neng)安(an)(an)全(quan)(quan)。”360集團創始人(ren)周鴻祎表示，解(jie)(jie)決AI大(da)模(mo)(mo)型安(an)(an)全(quan)(quan)問(wen)題(ti)需要(yao)技術(shu)跨界(jie)，讓具(ju)備AI大(da)模(mo)(mo)型研發(fa)能(neng)(neng)力和網(wang)絡安(an)(an)全(quan)(quan)建設能(neng)(neng)力的企(qi)業在(zai)其中發(fa)揮作(zuo)用(yong)。越了解(jie)(jie)AI大(da)模(mo)(mo)型工作(zuo)原理，越有能(neng)(neng)力解(jie)(jie)決它的安(an)(an)全(quan)(quan)風險。

　　鄔江(jiang)興提出了一個新思路，即(ji)利用內生安全理論中的(de)動態異構(gou)冗余（DHR）構(gou)造方法，賦能AI應用系統內生安全實驗。

　　鄔江興表示，紫(zi)金(jin)山實(shi)驗室將在今年四季度舉辦第六屆國際精(jing)英挑戰賽，并新設AI應用(yong)系(xi)統安(an)(an)全(quan)賽道，這是(shi)世(shi)界上首(shou)次針(zhen)對(dui)AI應用(yong)系(xi)統內生(sheng)(sheng)安(an)(an)全(quan)問題進行人(ren)機對(dui)抗的比(bi)賽。他呼吁更(geng)多的專家學者和企(qi)業界人(ren)士參與到AI應用(yong)系(xi)統內生(sheng)(sheng)安(an)(an)全(quan)研究(jiu)和實(shi)踐中來，共(gong)同(tong)推動AI時代(dai)的網絡空(kong)間(jian)安(an)(an)全(quan)發展。

　　安全監管(guan)方面(mian)，羅鋒(feng)盈表(biao)示，在(zai)AI大模型安全問題受到(dao)廣泛重視(shi)的背景下，中(zhong)央網信辦會(hui)同(tong)相關(guan)部門起草并發布了(le)《生成式人工智(zhi)能服務管(guan)理暫(zan)行辦法》，辦法將于(yu)8月(yue)15日正式施行。

　　“在(zai)起(qi)草過(guo)程(cheng)中，我們始終把推進(jin)人工(gong)(gong)智能(neng)(neng)等(deng)新技術發展(zhan)應(ying)用作為工(gong)(gong)作的重(zhong)要出發點和(he)落腳(jiao)點，支(zhi)持和(he)促(cu)進(jin)人工(gong)(gong)智能(neng)(neng)產業發展(zhan)。將規范的范圍限制在(zai)生成式人工(gong)(gong)智能(neng)(neng)，自動駕駛等(deng)其他人工(gong)(gong)智能(neng)(neng)應(ying)用不(bu)受影響，并且只規范向公眾提供服務(wu)的情(qing)形，企(qi)業、科(ke)研(yan)機構、高(gao)校等(deng)開展(zhan)科(ke)研(yan)攻關不(bu)在(zai)監管之列。”羅鋒盈(ying)稱(cheng)。

　　中國互(hu)(hu)聯(lian)(lian)(lian)網(wang)(wang)協會理事長尚冰建(jian)(jian)議，解(jie)決生成式人工智能帶來的(de)網(wang)(wang)絡安全(quan)新(xin)挑戰，要(yao)堅(jian)(jian)持(chi)協同(tong)創新(xin)。互(hu)(hu)聯(lian)(lian)(lian)網(wang)(wang)龍頭企業(ye)要(yao)積(ji)極開展(zhan)(zhan)原創性(xing)、引領性(xing)、基礎(chu)性(xing)安全(quan)技術(shu)攻關，延伸(shen)技術(shu)領域(yu)拓(tuo)展(zhan)(zhan)產品(pin)(pin)服務范(fan)圍，完善產品(pin)(pin)矩陣。互(hu)(hu)聯(lian)(lian)(lian)網(wang)(wang)初創企業(ye)要(yao)發揮快速靈(ling)活、資(zi)源集(ji)中的(de)特點，以創新(xin)技術(shu)和(he)產品(pin)(pin)切入細(xi)分領域(yu)，推動產品(pin)(pin)服務和(he)行(xing)業(ye)發展(zhan)(zhan)緊(jin)密結合。堅(jian)(jian)持(chi)合規(gui)發展(zhan)(zhan)，提升安全(quan)治理水(shui)平。互(hu)(hu)聯(lian)(lian)(lian)網(wang)(wang)企業(ye)應嚴格落實網(wang)(wang)絡安全(quan)相關法(fa)律法(fa)規(gui)和(he)政策(ce)文件要(yao)求(qiu)，加(jia)強自身安全(quan)能力建(jian)(jian)設(she)，構建(jian)(jian)全(quan)流程、全(quan)環節隱私合規(gui)體系。

　　網絡安全市場逐步擴容

　　中國網絡安(an)全(quan)(quan)市(shi)場規模(mo)穩步擴大。IDC數(shu)據顯示，2022年中國網絡安(an)全(quan)(quan)軟件(jian)市(shi)場規模(mo)達39.2億美元，同比增長12.5%。

　　尚冰表示，我國(guo)網(wang)(wang)絡(luo)安(an)全產業(ye)(ye)發展動能強(qiang)勁。數據顯示，2022年，我國(guo)網(wang)(wang)絡(luo)安(an)全產業(ye)(ye)規(gui)模(mo)近(jin)2200億元(yuan)。網(wang)(wang)絡(luo)安(an)全企(qi)業(ye)(ye)主體日(ri)益壯大。截(jie)至2022年底，中國(guo)已有21家網(wang)(wang)絡(luo)安(an)全企(qi)業(ye)(ye)上市(shi)，越來(lai)越多的互聯(lian)網(wang)(wang)企(qi)業(ye)(ye)、設備廠(chang)商、電(dian)信運營(ying)商成為網(wang)(wang)絡(luo)安(an)全領域新生力量。

　　AI大模型浪潮為網絡安全(quan)產業帶來發展新(xin)機遇。據(ju)中國證(zheng)券報記者統計，360集團(tuan)、安恒信息、綠盟科技、啟明(ming)星辰(chen)、中國移動(dong)等A股上市公(gong)司，阿里巴巴、騰訊、百度(du)等互聯網企業深度(du)參與AI安全(quan)市場。

　　同時(shi)(shi)，AI大(da)模型也為網絡(luo)安(an)全產業(ye)發展賦(fu)能。周(zhou)鴻祎表(biao)示，360集團正在研發安(an)全大(da)模型。360有全球最大(da)的網絡(luo)安(an)全攻(gong)擊樣本庫和(he)攻(gong)擊過程全記錄知識庫，通(tong)過訓練安(an)全知識集，360旨在打造(zao)“安(an)全萬事通(tong)”和(he)安(an)全垂(chui)直領域專(zhuan)家。“當系統遇到攻(gong)擊報(bao)(bao)警時(shi)(shi)，不再由(you)人做判斷，而是(shi)由(you)大(da)模型來(lai)判斷這是(shi)一次攻(gong)擊還是(shi)誤報(bao)(bao)。目前(qian)，判斷準(zhun)確率已經(jing)提升(sheng)到超96%，待超99%的時(shi)(shi)候便(bian)可投(tou)入(ru)使用。”

　　工業(ye)(ye)和(he)信息(xi)化部(bu)網(wang)絡(luo)(luo)安(an)(an)全(quan)管(guan)理局局長隋靜表示，創(chuang)(chuang)新是網(wang)絡(luo)(luo)安(an)(an)全(quan)保障(zhang)能力(li)提升(sheng)(sheng)的(de)根本動力(li)。要(yao)(yao)(yao)健(jian)全(quan)科(ke)技創(chuang)(chuang)新體系，強化企(qi)(qi)業(ye)(ye)創(chuang)(chuang)新主體地位，全(quan)面激發企(qi)(qi)業(ye)(ye)創(chuang)(chuang)新活力(li)。前瞻布局人工智能與(yu)網(wang)絡(luo)(luo)安(an)(an)全(quan)技術融合創(chuang)(chuang)新，增強產(chan)業(ye)(ye)鏈(lian)、供應(ying)鏈(lian)韌性和(he)安(an)(an)全(quan)水(shui)平(ping)。要(yao)(yao)(yao)完善支持產(chan)業(ye)(ye)發展的(de)政策措施(shi)，引導(dao)供給(gei)不斷提升(sheng)(sheng)，需求充分釋放(fang)，構建(jian)供需雙向發力(li)，產(chan)業(ye)(ye)鏈(lian)協同聯(lian)動的(de)高(gao)水(shui)平(ping)動態平(ping)衡。要(yao)(yao)(yao)創(chuang)(chuang)新網(wang)絡(luo)(luo)安(an)(an)全(quan)服務模式，引導(dao)資本加大對(dui)產(chan)業(ye)(ye)的(de)支持力(li)度，加快培育(yu)一批網(wang)絡(luo)(luo)安(an)(an)全(quan)“專精(jing)特(te)新”企(qi)(qi)業(ye)(ye)。要(yao)(yao)(yao)充分發揮聯(lian)盟(meng)協會紐帶(dai)作用，培育(yu)壯大產(chan)業(ye)(ye)生態，推動網(wang)絡(luo)(luo)安(an)(an)全(quan)產(chan)業(ye)(ye)高(gao)質量發展。