安全大模型3.0來了，360拳打老對手
從可交付到實戰應用
“我們參考了人類大腦的運行邏輯”，在介紹360安全大模型3.0時，360首席科學家兼360數字安全集團CTO潘劍鋒多次強調。在他看來，當前安全行業主要存在產品協同困難、安全能力不足、運營效率低下、安全專家缺乏等問題。傳統安全和現有安全大模型都存在短板，無法很好地解決這些痛點。
為此，360的解決方案是數據制勝、小切口大縱深、類腦分區協同(CoE)和工具增強(TAG)。在解釋類腦區分時，潘劍鋒花的時間最多，簡單來說，是基于數據、知識、算力，訓練出不同能力的分區，“對應語言中樞，實現像語言翻譯、文本摘要、意圖識別等能力;規劃中樞實現程序生成、方案規劃、目標拆解能力，可應用在很多復雜的任務當中;判別中樞實現信息抽取、邏輯推理、是非判斷、研判檢測能力;道德中樞圍繞內容安全，實現情感分析、道德法律能力;記憶中樞可以提供相應的記憶信息”。
基于類腦分區協同設計的安全大模型框架，可以解決任務沖突問題，達到多任務最優性能，且實現能力突破。在上述框架下，360以安全大模型為“大腦”，構建智能體框架，通過任務編排、指令調度、記憶存儲等能力，調用安全知識、工具，模仿人類“慢思考”的過程，對安全大模型的結果進行糾錯和能力增強。
值得注意的是，360安全大模型強調的重點變了，從2023年剛發布時的可交付，變成目前的可實現AI實戰應用。可以這樣理解：1.0版本提供安全問答、安全副駕駛等功能，引入智控系統來對接外部的安全產品及安全工具，2.0階段改進了安全智能體，對智能化、自動化方向的探索，3.0版本強調戰法及能力體系。
具體到實戰，潘劍鋒把360安全大模型的工作步驟拆解成八步，威脅獵殺/威脅狩獵、安全大模型獵殺任務的生成、規劃編排、逆向追蹤溯源、智能體正向梳理還原攻擊鏈、APT畫像、輸出結果的內容檢測、記憶中樞記憶工作過程。
中國信息協會常務理事朱克力告訴北京商報記者，“這種演進是理論到實踐的深化過程，3.0版本要求安全團隊更好地與AI系統協同工作”。
以運營為切入口
新技術帶來新挑戰，新挑戰催生新戰法，這本就是矛和盾的關系。談到AI時代網絡安全的切入口，“傳統安全的本質還是一種系統集成的思維(賣貨思維)，它忽視了正常的企業安全運營，喜歡給客戶堆砌很多產品。實踐證明，如果沒有真正的運營，這些產品也不可能自動地抵御各種高精尖的外來攻擊”，360數字安全集團副總裁張錦章表示。
強調運營的不只張錦章。根據賽迪顧問發布的《中國安全大模型技術與應用研究報告(2023)》，國內安全廠商在積極探索大語言模型在安全領域的應用。目前，落地場景以安全運營為主，一類是由安全大模型扮演“安全運營專家”的角色，結合安全知識庫，形成Copilot助手類產品。另一類是利用安全大模型提升安全檢測及防御工作效率，涵蓋入侵檢測、惡意軟件檢測、漏洞掃描、暴露面監測等安全任務。
據不完全統計，目前發布安全大模型或相關產品的企業包括奇安信、安恒科技等。
其中，奇安信于2023年8月推出了基于奇安信大模型的Q-GPT安全機器人(12.350, -0.04, -0.32%)和大模型衛士，該機器人相當于“虛擬安全專家”，大模型衛士集安全風險發現、大模型訪問控制、數據泄露管控、違法違規行為溯源、大模型應用分析等為一體。安恒科技的安全垂域大模型“恒腦”于2023年8月發布，主要應用于產品優化和安全服務效能的提升，以及網絡安全科普、教學等場景。
在頂象技術業務安全專家田際云看來，國內網絡安全產品同質化比較嚴重，屬于紅海市場，但兩個方向是未來的重點，“一是和數字業務貼近的安全，比如數字業務安全、AI安全，二是安全運維，因為威脅是動態的，風險是不斷更迭的，安全也需要動態保持更新”。基于上述觀點，田際云認為，國內安全大模型跟安全情報、漏洞挖掘、模擬攻擊或安全攻擊測試、安全客服結合比較契合。
在解釋為什么安全運營是AI+安全的結合點時，華金證券相關報告稱，安全運營是安全行業自動化程度最低的領域：在一個網絡安全系統的各個組成中，防火墻、端點安全等單點的安全產品已經具備了較高的自動化水平，而安全運營本是自動化程度最低的一環。報告指出，2023年處于大模型+安全產品測試與市場推廣的初期，預計2024年產品將全面鋪開。
京公網安備:11010602130026號