互聯網安全大會展廳內的樂聚機器人展品 本報記者 王婧涵 攝

　　人工(gong)智能（AI）等前沿(yan)科(ke)技飛(fei)速發(fa)展，大(da)模型越(yue)來越(yue)多地被使用在千行百業的(de)不(bu)同場景之中。作為(wei)(wei)互聯網生(sheng)(sheng)態的(de)基礎(chu)性支撐，互聯網安全(quan)需要面對新挑戰、解決新場景、滿(man)足新需求(qiu)。在第十二屆互聯網安全(quan)大(da)會（ISC.AI 2024）上，多位(wei)行業專家表示，“安全(quan)+AI”的(de)新生(sheng)(sheng)態成為(wei)(wei)了驅動產業發(fa)展的(de)關鍵動力。

　　AI科技“碰撞”多元場景

　　在第(di)十二屆互聯網安全(quan)大會的現場，跳舞機器人、艾(ai)灸(jiu)機器人、自(zi)動(dong)化妝機和(he)各(ge)類AR游戲、智能(neng)辦(ban)公助手、汽車智能(neng)座艙都吸(xi)引(yin)了大量參觀者，無(wu)處不在的AI技術昭(zhao)示著(zhu)一個新時(shi)代(dai)的到來。

　　展廳(ting)中(zhong)，正在(zai)計算機專業就(jiu)讀(du)研究生的郭(guo)同學向記者表示，他目前的研究方(fang)(fang)向和這兩年(nian)爆(bao)火的大模型密切相(xiang)關，當前越(yue)來越(yue)多的AI大模型技術(shu)被應用到了(le)工業生產(chan)、醫(yi)療服務、日(ri)常辦(ban)公(gong)、藝(yi)術(shu)創作等方(fang)(fang)方(fang)(fang)面面，未來也可(ke)能會更多深入民眾的工作生活，成(cheng)為日(ri)常不可(ke)或缺(que)的一部分。

　　隨著AI的(de)使用(yong)場景(jing)愈發豐富(fu)，互(hu)(hu)聯(lian)(lian)(lian)網安全(quan)作為互(hu)(hu)聯(lian)(lian)(lian)網生(sheng)態的(de)基礎(chu)性支撐，在使用(yong)范圍和用(yong)戶需求上(shang)都有了新(xin)(xin)的(de)變化。多位(wei)專家和行業人士表(biao)示，“安全(quan)+AI”的(de)新(xin)(xin)生(sheng)態帶來新(xin)(xin)場景(jing)，成為驅動(dong)互(hu)(hu)聯(lian)(lian)(lian)網安全(quan)產業發展的(de)關(guan)鍵動(dong)力。

　　“安全+自動駕(jia)駛”就是(shi)其中(zhong)極富(fu)代表性的(de)“新生態(tai)”之(zhi)一(yi)。

　　山石網(wang)科副(fu)總裁賈宇告訴記者，自(zi)動駕駛過程中感知系統、分析系統、決策系統協作運行(xing)，都需(xu)要智能網(wang)聯技術的(de)加持。如果(guo)未來(lai)主(zhu)駕位無人的(de)自(zi)動駕駛汽車(che)(che)進入商業(ye)化推(tui)廣(guang)階段，出(chu)于對人身安全(quan)(quan)的(de)保護，無人駕駛汽車(che)(che)的(de)信息(xi)安全(quan)(quan)就會變(bian)得非常重要。他提到，在駕駛場景下，安全(quan)(quan)監管(guan)需(xu)要同時滿足高(gao)性能和(he)(he)低(di)延遲兩項(xiang)要求，以平衡網(wang)絡安全(quan)(quan)和(he)(he)物理安全(quan)(quan)。因(yin)為(wei)軟(ruan)件延遲如果(guo)過高(gao)，車(che)(che)輛(liang)行(xing)駛中事故發生的(de)概率也將提升。

　　360集團創始人周(zhou)鴻祎則(ze)表示，隨著汽車行業(ye)智能化(hua)的(de)發展，汽車在(zai)出(chu)廠前不僅需要(yao)進行物理世界的(de)碰撞(zhuang)試(shi)驗，同樣要(yao)在(zai)數(shu)字世界里要(yao)經過“數(shu)字碰撞(zhuang)”，以保證沒有(you)明(ming)顯(xian)的(de)數(shu)字安全漏洞。除去(qu)車身安全，車廠安全也需要(yao)被重(zhong)點關注。周(zhou)鴻祎表示，攻擊車廠的(de)難度比攻擊車身低很(hen)多，因為車廠網絡(luo)與(yu)普通辦公網絡(luo)差異不大，更容易出(chu)現漏洞。而(er)如果車輛接入(ru)車聯網，車廠被“攔截”一樣會(hui)帶(dai)來嚴(yan)重(zhong)后果。

　　應對新挑戰

　　當前，以(yi)生成(cheng)(cheng)式人(ren)工智能為(wei)(wei)代表的新(xin)一代數字技術(shu)逐漸(jian)成(cheng)(cheng)為(wei)(wei)引領(ling)科技創(chuang)新(xin)、提高新(xin)質生產力的關鍵力量，同時(shi)也帶(dai)來了社會倫(lun)理以(yi)及數據隱私泄(xie)露等(deng)挑戰。

　　公安(an)部原(yuan)副部長(chang)、國家網信辦原(yuan)副主任陳智敏表示，確保(bao)數據安(an)全(quan)(quan)是(shi)人工智能安(an)全(quan)(quan)的(de)基(ji)本保(bao)障(zhang)，而構建(jian)與(yu)新(xin)質生產(chan)力(li)(li)相(xiang)適應的(de)新(xin)型生產(chan)關系則是(shi)保(bao)障(zhang)其(qi)可持(chi)續發展的(de)當務之急。應健(jian)全(quan)(quan)關鍵核心技術攻關的(de)體(ti)制(zhi)(zhi)機(ji)制(zhi)(zhi)，將政府、市場、社(she)會有機(ji)地結合起來，健(jian)全(quan)(quan)要素(su)參與(yu)、收入(ru)分配機(ji)制(zhi)(zhi)，激發各類經營主體(ti)的(de)創造(zao)活力(li)(li)。深(shen)化教(jiao)育(yu)、科技、人才體(ti)制(zhi)(zhi)機(ji)制(zhi)(zhi)創新(xin)，暢通三者的(de)良性(xing)循環。

　　賈宇表示，AI技(ji)術的(de)發展對網絡安全行業(ye)帶(dai)來(lai)了(le)巨大沖擊。新技(ji)術帶(dai)來(lai)新使用場景的(de)同時，安全問題(ti)也(ye)自然隨之而來(lai)。例如，AI大模(mo)型從學習到輸(shu)出的(de)過程中會需要和(he)輸(shu)出海量(liang)數據(ju)(ju)，如何保證這(zhe)些數據(ju)(ju)不會被污(wu)染(ran)，污(wu)染(ran)了(le)以后如何處理，都是網絡安全行業(ye)需要考慮(lv)的(de)問題(ti)。

　　中國工程院(yuan)院(yuan)士吳(wu)世忠從生成式人工智能安(an)全研究(jiu)的總體態勢(shi)和(he)技術(shu)熱點角(jiao)度對行業當前(qian)(qian)發(fa)展趨勢(shi)進行了分析。他表示(shi)，AI技術(shu)帶來的新(xin)型安(an)全問題(ti)已成為現實，安(an)全行業將迅速邁進AI驅(qu)動的新(xin)時(shi)代(dai)。然(ran)而，目前(qian)(qian)對大模型安(an)全的研究(jiu)才(cai)剛剛開始，相較(jiao)于技術(shu)發(fa)展，安(an)全研究(jiu)明顯滯后。

　　推動協同共治

　　中國科學院院士、清華大(da)學計(ji)算(suan)機(ji)系教授(shou)張鈸提(ti)到，由于(yu)當前計(ji)算(suan)機(ji)LLM基礎模型的(de)(de)(de)局限性，AI和(he)人(ren)(ren)工(gong)智能生(sheng)成(cheng)(cheng)的(de)(de)(de)語(yu)言(yan)(yan)與(yu)(yu)(yu)人(ren)(ren)類語(yu)言(yan)(yan)本身只是行為上(shang)的(de)(de)(de)相似，內(nei)(nei)在機(ji)制(zhi)完全不(bu)同(tong)(tong)，因此雖然大(da)模型擁有(you)強大(da)的(de)(de)(de)語(yu)言(yan)(yan)生(sheng)成(cheng)(cheng)、對話、遷移(yi)能力，但必然會出現“幻覺”——也就是質量上(shang)的(de)(de)(de)不(bu)可(ke)控和(he)內(nei)(nei)容上(shang)的(de)(de)(de)不(bu)可(ke)信。因此在人(ren)(ren)工(gong)智能技術發(fa)展(zhan)的(de)(de)(de)同(tong)(tong)時(shi)，構建可(ke)解釋的(de)(de)(de)AI理(li)論與(yu)(yu)(yu)方法極為重(zhong)要。這也需(xu)要政府、企業等(deng)各(ge)方參與(yu)(yu)(yu)者能夠保(bao)持開放的(de)(de)(de)態度協同(tong)(tong)共進，在技術發(fa)展(zhan)的(de)(de)(de)過程(cheng)中關注AI大(da)模型和(he)人(ren)(ren)工(gong)智能相關倫(lun)理(li)規則，形成(cheng)(cheng)社會和(he)全球范圍內(nei)(nei)的(de)(de)(de)共識。

　　陳(chen)智(zhi)(zhi)敏提(ti)到(dao)，在AI時代更應堅(jian)持科學向善的(de)(de)原則，這是(shi)人工智(zhi)(zhi)能(neng)發(fa)展過程中面(mian)對潛在威脅必須堅(jian)持的(de)(de)道德(de)倫理底線(xian)。針對個人信息被竊取盜(dao)賣引(yin)發(fa)犯罪、危害(hai)社會(hui)公共安全(quan)等(deng)問(wen)題，要建立(li)健(jian)全(quan)數據確權、數據安全(quan)保障(zhang)、算(suan)力安全(quan)審查等(deng)制度，為人工智(zhi)(zhi)能(neng)發(fa)展形成正確的(de)(de)價值導向和穩定的(de)(de)社會(hui)預期提(ti)供(gong)有力的(de)(de)保障(zhang)。

　　世界互(hu)聯網(wang)大(da)會秘書長任賢(xian)良表示，人工智(zhi)能(neng)迎來發(fa)展與治(zhi)理協同(tong)共(gong)進(jin)的新階(jie)段，在人工智(zhi)能(neng)時代(dai)，確保(bao)網(wang)絡安全不僅是(shi)保(bao)障(zhang)互(hu)聯網(wang)作為全國(guo)各行業紐(niu)帶(dai)(dai)的核心要(yao)(yao)素，更是(shi)實現人工智(zhi)能(neng)為社會帶(dai)(dai)來福祉的基礎前提(ti)。應該(gai)倡(chang)導遵(zun)守網(wang)絡空間國(guo)際規(gui)則，將防控網(wang)絡安全風(feng)險(xian)放在人工智(zhi)能(neng)發(fa)展與治(zhi)理的重(zhong)要(yao)(yao)位置。此外(wai)，廣大(da)數(shu)字安全企業應以技術為本，深入研究人工智(zhi)能(neng)等重(zhong)點(dian)領域(yu)，構(gou)建跨領域(yu)、多層次的數(shu)字安全技術產品和(he)服務創新體系(xi)，同(tong)時注(zhu)重(zhong)開放合作，推動協同(tong)共(gong)治(zhi)。