啟明星辰又多了一顆“星”
發布時間 2024-11-04前言：
隨著人工智能在網絡安全領域的深入應用，安全大模型的研發雖取得顯著進展，但也面臨著諸如 “策略生成準確率” 等關鍵問題的挑戰?；诖?，啟明星辰集團專家與媒體展開深度對話，剖析了當前安全大模型發展的挑戰與機遇，并詳細闡述了啟明星辰集團在此方面的實踐探索和戰略規劃。
“每次生成的策略都不一樣?！?/p>
研發進入攻堅階段，但“策略生成準確率”問題，一直沒有很好地解決。那時的安全大模型好像還沒個準主意。面對相同的攻擊測試，一會給你支這個招，一會給你支那個招。好在，啟明星辰是有些“家底”的。過去28年攢下的那些家當，到關鍵時候就排上了用場。
啟明星辰亮出“家底”
2022年3月，九天·泰合安全大模型立項研發。6月，啟明星辰拿到了“無限開火權”，獲得了中國移動的算力支持，研發正式啟動。這此一點，就足夠國內眾多安全企業，羨慕三天三夜。
其實，安全企業對人工智能的研究，可追溯到上世紀80年代，例如，學術界提出IDS概念時，其中的統計異常檢測系統，以及專家系統，就有人工智能技術的影子。只不過，當時產業界并不太認可這條門檻較高技術路線。
又過了30年。
但這些都不能跟現在的大模型相比。
通用大模型給安全企業，帶來了無與倫比的興奮。他們第一次解鎖了“知識泛化”能力和“思維鏈”能力——有了“知識泛化”能力，大模型就快速增加了知識儲備，能夠回答各類專業的安全問題；有了“思維鏈”能力，安全大模型就能將各類問題，拆解為可執行的步驟——既它能告訴你問題，也能告訴你怎么解決問題。
但困難還是有的。
“策略生成準確率”就是必須要解決的問題。如果基于同樣的提示詞，大模型每次都能生成不一樣的文章，那這事好像還挺有意思，但在安全這樣的嚴肅場景中，生成處置策略的準確率，以及可解釋性就是頭等問題。
好在啟明星辰是家有“家底”的公司?！皵祿馁|量和數量，決定了安全大模型能力的上限?！敝軡菃⒚餍浅郊瘓F副總裁、核心研究院院長，對于解決“策略生成準確率”問題，他首先就想到，要不斷注入高質量數據。
但數據從哪來？
威脅情報數據肯定是重要的數據來源。過去，拿到威脅情報數據，安全企業只會抽出有用的IOC（威脅指標），以解決現實問題?，F在，安全企業還會“一魚二吃”，除留下IOC（威脅指標），原始的威脅情報數據，也會留下來，進行模型訓練。
啟明星辰也會很珍惜每一條威脅情報數據，只不過，這家公司還另有優勢。在此之前，啟明星辰已在全國累計建成落地130余座安全運營中心，國內應該無出其右者。而從安全運營中累積的日志，以及安全運營報告，都是可供訓練的高質量數據。
更重要的是，“九天·泰合安全大模型的研發，得到了公司各產品線的全力支持?！敝軡f:
九天·泰合安全大模型的研發，是一項公司級戰略?！爱a品研發部門拿出了此前沉淀的手冊、文檔，以及知識庫。啟明星辰百余款產品的報表模塊，也都貢獻出來用于數據訓練?！?/p>
“AI+安全”戰略落地
就是這樣持續的投入，一年之后，即2024年5月，九天·泰合安全大模型正式發布。顯然，周濤對它很有信心，周濤說：“常規自然語言處理領域的‘打榜’并沒有用，就像學霸并不一定是安全專家?！畼I務’效果才是檢驗安全大模型的唯一標準?！?/p>
這也就是啟明星辰接下來的想法。在推出九天·泰合安全大模型四個月后，啟明星辰又正式發布了“安星智能體”，此前其提出的“AI+安全”戰略，這時也逐漸清晰起來。
“AI+安全”戰略涵蓋了“基礎層、模型層、應用層”。其中，“基礎層”是以中國移動九天大模型為核心底座，這解決了模型訓練和推理應用中的資源問題；在此之上的“模型層”，啟明星辰依托高質量的安全數據集，為通用大模型注入安全能力，這也就是九天·泰合安全大模型。
“但小模型也不能丟?！?/p>
在此之前，啟明星辰進行了充分的討論——大模型讓安全企業第一次解鎖了強大知識泛化能力。但是不是什么任務，都要丟給大模型完成？顯然不是，啟明星辰希望專業的模型干好專業的事情。
所以小模型也不能丟。
這也就是啟明星辰的研發思路，就如周濤所說：“最主要的效果”。啟明星辰總是希望用戶能以最小的資源代價，達到最佳的應用效果。正因如此，目前，啟明星辰已累計研發惡意樣本檢測、加密流量檢測、異常進程識別、賬號行為分析、業務風控、分級分類等多個特定場景的小模型。
這些“小模型”，同樣位于“AI+安全”戰略的“模型層”。而大模型與小模型之間的關系，就像“大腦”與“計算器”。再聰明的“大腦”，在特定環境下，有時候也不如“計算器”來得快。
更進一步。在大小模型共處的“模型層”之上，就是“應用層”。啟明星辰的所有設備就已經完成了安全能力的原子化和API化改造。這就為“安星智能體”奠定了技術基礎——通過位于“應用層”的安星智能體，可全面提升安全檢測、分析、響應和自動化處置全流程的智能化安全運營水平，并建立閉環能力升級機制。
大模型有了手和腳
變化由此而來。
周濤首先解釋了“智能體”與“安全助手”間的區別?！鞍踩帧敝痪哂邪踩R問答、告警解讀，以及安全數據分析、漏洞影響評估、生成事件總結報告等能力?！爸悄荏w”在此之上，更增加了智能決策、復雜任務自主處理功能。
也就是說，啟明星辰加上了安星智能體這顆“星”。就意味著九天·泰合安全大模型已經順利落地應用場景，已經顯現了安全大模型與業務的深度耦合，提升了任務的自主決策與處理能力。
周濤進一步解釋了其中的關聯：“啟明星辰希望未來的企業安全架構，能夠感知環境、做出決策、采取行動的實體?！?其中，“感知環境”是大模型基于網絡環境中的各類日志數據檢測威脅；“做出決策”是大模型對于已確認的威脅行為生成防護策略；“采取行動”是智能體具備與網絡環境交互的能力，而實現策略執行。
或者說，九天·泰合安全大模型就是“大腦”，他根據報警信息，生成了可執行的策略腳本，以及劃分動作序列。安星智能體則是大模型的“手和腳”，負責具體調用各類設備，以及策略的下發執行，并最終再將結果反饋給大模型。
以運營服務為例。安全運營是對知識和設備強依賴的場景，也是最適合安全大模型落地的應用場景。在此方面，九天·泰合安全大模型已經具備了數據分析能力，并能夠分析告警趨勢。同時，大模型還已具有報警解讀能力、告警驗證能力。進而，大模型還已具備相應處置能力，能夠快速定位告警，更能夠快速生成策略。
智能體則負責具體執行，負責快速阻斷攻擊。在此過程中，智能體通過API接口，就能自動調用安全設備和安全模塊，并形成響應閉環。
“這極大地提升了工程師數據分析、策略制定等方面的工作效率?！敝軡f：“我們做過測試，告警處置時間可從半小時，縮短到兩分鐘?！币郧笆且贿B串工作，工程師要從頭忙到尾，現在每位工程師身邊都站著位“助理”，“助理”幫你完成這些工作，工程師只有進行審核和判定。
“而且綜合性的安全企業，此后也將更有優勢，因為他們更容易形成設備聯動?！敝軡纱说贸鼋Y論?！耙驗槿鐔⒚餍浅竭@樣的綜合性安全企業，一直建立有完整的元數據管理系統，安星智能體就可以通過元數據管理系統，調動各類網絡設備、安全設備的接口，實現大模型與設備之間要實現交互聯動?！?/p>
“更重要的是，‘大模型+智能體’還形成了‘飛輪效應’。一成不變的安全大模型，在攻擊者的反復刺探中，防御能力也會迅速衰減。但基于安全運營人員在真實場景的真實反饋，就可完成對大模型和智能體持續的迭代，可打造能力升級的‘飛輪效應’?！敝軡詈笳f。
以上文章來源于張戈BP ，作者張戈
京公網安備11010802024551號