自去年底以來，生成式人工智能熱度高漲，國內(nèi)公開發(fā)布的大模型已達百余個，不僅帶動了人工智能產(chǎn)業(yè)的蓬勃發(fā)展，也為其他產(chǎn)業(yè)注入了新動能。

　　在日前舉辦的第十一屆互聯(lián)網(wǎng)安全大會（ISC 2023）上，多位專家提出，通用人工智能發(fā)展日益體現(xiàn)出技術創(chuàng)新快、應用滲透強、經(jīng)濟社會影響大、國際競爭激烈的特點。但發(fā)展與安全并重，對于當前火熱的人工智能大模型以及人工智能技術，都需要把數(shù)字安全放在更突出的位置，讓數(shù)字安全與人工智能技術融合發(fā)展。

　　發(fā)展與安全并重

　　“人工智能是引領新一輪產(chǎn)業(yè)變革的核心技術引擎，為各領域提供信息化、數(shù)字化、智能化的解決方案，正在引發(fā)經(jīng)濟結(jié)構(gòu)重大變革，實現(xiàn)社會生產(chǎn)力整體躍升?！敝袊こ淘涸菏苦w江興說。

　　中國工程院院士鄔賀銓認為，以人工智能為代表的數(shù)字技術將重塑數(shù)字內(nèi)容生產(chǎn)方式和消費模式，通用人工智能將實現(xiàn)知識與數(shù)據(jù)雙輪驅(qū)動，把智腦加進去，未來單個模型有望通過遷移學習支持多種業(yè)務，并能精準選擇節(jié)點，有效降低功耗和成本。數(shù)字化將逐漸走向智能化高峰，開啟人工智能時代。同時，數(shù)字安全也在不斷發(fā)展演進，傳統(tǒng)安全防護的手段亟待升級。

　　“生成式人工智能正在引發(fā)新一輪智能化浪潮，但也伴隨著數(shù)據(jù)泄露、虛假信息、算法歧視等網(wǎng)絡和信息安全新挑戰(zhàn)、新問題?！敝袊ヂ?lián)網(wǎng)協(xié)會理事長尚冰說。

　　中央網(wǎng)信辦網(wǎng)絡安全協(xié)調(diào)局副局長羅鋒盈也表示，當前，生成式人工智能還有很多亟待解決的問題，比如生成信息的準確性、真實性以及價值觀等問題。

　　“當前，深度學習進入快速發(fā)展期，但也是一把雙刃劍。如果不能有效應對人工智能安全挑戰(zhàn)，數(shù)字社會、數(shù)字經(jīng)濟都會基礎不牢，成為國家安全戰(zhàn)略最脆弱、最致命的環(huán)節(jié)?！编w江興認為，深度學習人工智能模型存在“三不可”內(nèi)生安全個性問題，即神經(jīng)網(wǎng)絡“黑盒”特點導致人工智能存在不可解釋性；深度學習對訓練樣本過度依賴，導致學習結(jié)果的不可判定性；神經(jīng)網(wǎng)絡前向推進的不可逆，導致結(jié)果的不可推論性。

　　“充分數(shù)字化，讓企業(yè)、政府、城市成為網(wǎng)絡安全的主陣地。當大數(shù)據(jù)成為核心資產(chǎn)后，政府、企業(yè)都面臨數(shù)據(jù)泄露、丟失的安全威脅。生成式人工智能帶來的內(nèi)容安全、安全可控問題將更為顯著。”360集團創(chuàng)始人周鴻祎說。

　　國家網(wǎng)信辦等7部門近日聯(lián)合發(fā)布《生成式人工智能服務管理暫行辦法》，提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

　　創(chuàng)新技術手段

　　第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波表示，推動人工智能產(chǎn)業(yè)快速發(fā)展，必須要把保障數(shù)據(jù)安全放在突出位置。要加快人工智能數(shù)據(jù)資源建設，創(chuàng)新人工智能技術手段，完善人工智能數(shù)據(jù)安全監(jiān)管體系。

　　“要用技術進步解決安全風險難題，加強人工智能數(shù)據(jù)安全保護基礎理論研究和技術研發(fā)。發(fā)展負責任、可信任、能受控的通用人工智能。鼓勵企業(yè)建設完善人工智能開源學習框架，增強框架內(nèi)置學習數(shù)據(jù)和基礎設施。并通過我國巨大的市場優(yōu)勢，加快培育人工智能開源平臺生態(tài)圈和產(chǎn)業(yè)鏈?！碧K波說。

　　我國網(wǎng)絡安全產(chǎn)業(yè)綜合實力已顯著增強。數(shù)據(jù)顯示，2022年我國網(wǎng)絡安全產(chǎn)業(yè)規(guī)模近2200億元，北京、長沙、成渝地區(qū)國家三大網(wǎng)絡安全產(chǎn)業(yè)園區(qū)相繼成立，長三角、珠三角等網(wǎng)絡安全產(chǎn)業(yè)基礎優(yōu)勢逐步激發(fā)。截至2022年底，我國已有21家網(wǎng)絡安全企業(yè)上市，越來越多的互聯(lián)網(wǎng)企業(yè)、設備廠商、電信運營商成為網(wǎng)絡安全領域新生力量，傳統(tǒng)安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局數(shù)據(jù)安全賽道。

　　同時，網(wǎng)絡安全技術體系持續(xù)完備，零信任、以太坊等信息安全技術逐步成熟落地。隱私計算、圖片加密等領域布局加快，網(wǎng)絡安全與人工智能、云計算、區(qū)塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。

　　創(chuàng)新是網(wǎng)絡安全保障能力提升的根本動力。工業(yè)和信息化部網(wǎng)絡安全管理局局長隋靜表示，要健全科技創(chuàng)新體系，強化體系創(chuàng)新主體地位，全面激發(fā)企業(yè)創(chuàng)新活力。圍繞5G、工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等重點領域開展關鍵技術攻關，加快突破安全風險感知、監(jiān)測預警、實時阻斷、追蹤溯源等核心能力。前瞻布局人工智能與網(wǎng)絡安全技術融合創(chuàng)新，增強產(chǎn)業(yè)鏈、供應鏈韌性和安全水平。

　　培育產(chǎn)業(yè)生態(tài)

　　“目前360集團有全球最大的網(wǎng)絡安全攻擊樣本庫和攻擊整個過程全記錄的知識庫，記錄了數(shù)以億計的網(wǎng)絡攻擊知識。我們也在試驗把這些知識加入專門的垂直大模型里，爭取下次遇到攻擊時，由大模型判斷這是否是一次真實攻擊。目前，大模型判斷網(wǎng)絡攻擊的準確率已提升到97%，當該準確率超過99%時就可以投入應用?！敝茗櫟t介紹。

　　周鴻祎認為，隨著安全挑戰(zhàn)不斷升級，傳統(tǒng)安全方案已難以應對數(shù)字文明時代的新挑戰(zhàn)，出現(xiàn)“企業(yè)抱怨沒效果、廠商抱怨投入少”的局面。企業(yè)實現(xiàn)體系化安全運營，存在缺平臺、缺探針、缺數(shù)據(jù)、缺專家四大障礙。云化和服務化將成為安全行業(yè)發(fā)展必然趨勢。為此，360推出“安全即服務”理念，將沉淀在全網(wǎng)安全大腦里的世界級安全能力全面云化和服務化，低成本、高效能輸送給企業(yè)級客戶，為政府、城市和企業(yè)筑牢數(shù)字安全屏障，守護數(shù)字經(jīng)濟成果。

　　“要摒棄硬件式碎片化弱協(xié)同的傳統(tǒng)安全防護手段，向云化、服務化的理念升級。數(shù)字安全企業(yè)需要建立體系化的安全運營服務框架，面向各行各業(yè)輸出數(shù)字安全能力，幫助企業(yè)構(gòu)建安全防御體系，保護數(shù)據(jù)安全與商業(yè)秘密?！编w賀銓說。

　　全國工商聯(lián)副主席汪鴻雁表示，網(wǎng)絡安全龍頭企業(yè)要牽頭組建創(chuàng)新聯(lián)合體，發(fā)揮創(chuàng)新主體作用，主動承擔國家重大科技項目，開展數(shù)字安全的基礎理論創(chuàng)新，及重大問題研究和關鍵的核心技術攻關，著力加強數(shù)字安全的人才培養(yǎng)，推動人才、技術和產(chǎn)業(yè)的融通發(fā)展，不斷增進數(shù)字安全國際交流與合作，建設國際數(shù)字安全保障合作機制。

　　“互聯(lián)網(wǎng)龍頭企業(yè)要積極開展原創(chuàng)性、引領性、基礎性安全技術攻關，延伸技術領域，拓展產(chǎn)品服務范圍，完善產(chǎn)品矩陣?；ヂ?lián)網(wǎng)初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點，以創(chuàng)新技術和產(chǎn)品切入細分領域，推動產(chǎn)品服務和行業(yè)發(fā)展緊密結(jié)合。”尚冰說。

　　鄔賀銓強調(diào)，要完善數(shù)字安全的生態(tài)系統(tǒng)，覆蓋工業(yè)企業(yè)設備供應商、基礎電信運營商、云服務商、工業(yè)互聯(lián)網(wǎng)平臺運營商、工業(yè)應用提供商、數(shù)字安全提供企業(yè)、第三方檢測機構(gòu)與用戶等，實現(xiàn)危險威脅處置情報共享。

　　隋靜表示，網(wǎng)絡安全產(chǎn)業(yè)是維護國家網(wǎng)絡安全的重要基礎，要完善支持產(chǎn)業(yè)發(fā)展的政策措施，引導供給不斷提升，需求充分釋放，構(gòu)建供需雙向發(fā)力，產(chǎn)業(yè)鏈協(xié)同聯(lián)動的高水平動態(tài)平衡。要創(chuàng)新網(wǎng)絡安全服務模式，大力發(fā)展網(wǎng)絡安全保險服務，深化產(chǎn)融合作，引導資本加大對產(chǎn)業(yè)支持力度，加快培育一批網(wǎng)絡安全專精特新企業(yè)。優(yōu)化產(chǎn)業(yè)園區(qū)產(chǎn)業(yè)布局，充分發(fā)揮聯(lián)盟協(xié)會紐帶作用，培育壯大產(chǎn)業(yè)生態(tài)，推動產(chǎn)業(yè)高質(zhì)量發(fā)展。（黃 鑫）