大模型應用安全資源池, MANUS化的全效防護智能體集群

發布時間 2025-03-19

“讓每一句人機對話都安全可信,讓每一次智能交互都風險可控——這是屬于AI時代的安全承諾。 —— 啟明星辰”


“明者防禍于未萌,智者圖患于將來?!彪S著AI技術的飛速發展,大模型應用場景不斷拓展,但隨之而來的安全挑戰也日益凸顯。MACSM大模型應用安全資源池產品深度契合MANUS的五大核心特征和發展方向,通過集約化部署和一體化交付,實現了多智能體協同(M)、自主執行(A)、自然交互框架(N)、統一工具和應用接口(U)以及安全合規網格(S)的全面支持。從邊緣推理到云端服務,MACSM無縫覆蓋企業全場景需求,助力企業在智能化浪潮中筑牢安全屏障,開創未來智能變革新局面。


2025年3月初,號稱“全球首款全自主執行復雜任務的數字代理人”的Manus產品一經推出,就攪動了業界,推崇者、質疑者就紛至沓來。


圖片1.jpg


借禪宗著名的“指月公案”來比喻。 

盡管Manus存在諸多爭議和討論,我們卻不一定要把注意力都聚焦在“Manus”這只手上。我們可以去仔細審視這只手所指的月亮——AGI通用人工智能、以及月亮周圍的星辰——通向AGI的智能體集群路線。

而以智能體集群路線,對安全開展全面智能改造,主要就是兩點:其一,讓基礎安全能力原子化、工具化、智能體化;其二,構建一個多智能體、智能體集群的安全體系。


M·A·N·U·S代表了智能體集群的五個關鍵特征:


M – 多智能體協同 Multi-Agent Synergy
A – 自主執行 Autonomous Execution
N – 自然交互框架 Natural Interaction Framework
U – 統一工具和應用接口 Unified Tool & Application Interface
S – 安全合規網格 Secure-Compliance Mesh

安全智能體集群的MANUS化路線,正影響著啟明星辰乃至整個產業的安全能力和安全產品格局。

智算安全新挑戰


當前智算安全體系面臨著分散化部署帶來的多重挑戰,嚴重制約了安全效能的發揮和資源的高效利用。從模型應用防護能力難以統一交付,到設備集成與更新成本居高不下,再到安全能力孤島削弱防護效能以及合規管理能力的缺失,這些問題不僅增加了企業的運營成本,還帶來了潛在的安全和合規風險。要解決這些核心痛點,亟需從架構層面進行整體性革新,為企業構建集約化、智能化的智算安全體系。


1、分散化部署導致資源浪費


各安全網元需獨立部署專用大模型,造成GPU/TPU等算力資源利用率不足,也無法實現統一交付。這種模式導致算力資源利用率低下,大量硬件設施被冗余建設,直接推高了企業的整體投入成本,形成資源浪費的沉重負擔。


2、設備集成與更新成本高昂


傳統架構對模型應用防護“四件套”等組合形態支持不足,設備的持續集成與更新面臨復雜性與高成本問題。用戶不得不增加額外投入,縮短了系統生命周期,同時顯著提升了運維復雜性與管理成,“專用向通用”、“硬件向按需彈性”也將成為智算安全時代的新課題。


3、安全能力孤島削弱防護效能


由于各安全能力間缺乏協同機制,“安全能力孤島”問題愈發嚴重。無法實現多安全服務間的彈性調度與協同防護,導致防御能力碎片化,難以應對復雜的模型應用攻擊鏈條,留下防御盲區,增加了潛在風險。


4、缺乏統一合規視圖增加管理風險


分散的安全能力限制了統一合規視圖的構建,企業難以全面掌控模型訓練、推理及應用的全生命周期安全。這種局限性增加了模型應用違規和合規風險,削弱了企業的風險管控能力,并可能引發合規問題。


以上每個問題不僅限制了智算安全體系的效能發揮,還對企業的安全管理與運營效益造成了深遠影響,亟需通過架構層面的變革來解決。


全效智算護盾,大模型應用安全資源池實現安全防護的全面“MANUS化”


為應對智算安全新挑戰,啟明星辰重磅推出MACSM大模型應用安全資源池產品,通過一體化平臺實現全棧模型應用防護能力的一站式交付,圍繞大模型應用構建縱深立體的防護矩陣,助力企業在創新驅動的同時實現安全賦能。MACSM基于網絡安全平臺化戰略思想,具備云資源池管理技術與AI智能體技術的雙向加持,真正做到從多安全智能應用層到虛擬化系統層管理的全面“MANUS化”。   


圖片2.png


MACSM產品以三層方式構建,全面覆蓋智算底座、技術能力和防護能力,為企業提供全方位的安全保障。


1、 智算和模型能力的底座層


底座層是MACSM的核心基礎,由PanguCloud安全資源池技術底座和MaaS安全模型底座兩部分組成,其中PanguCloud安全資源池底座通過融合引擎提供虛擬計算、存儲和網絡能力,并以容器和虛機的方式承載所有安全能力的智算、通算及網絡需求,確保資源高效調度和穩定運行。MaaS安全模型底座在智算能力基礎上構建如DeepSeek、九天等基座模型,同時提供智能應用開發框架,為上層智能體集群提供統一的模型API接口與可視化配置平臺,支持企業快速構建和部署安全智能應用。


2、 AI就緒安全技術的能力層


基于底座層,技術能力層為企業提供多種AI就緒的安全技術能力,形成共性、重要的安全基礎設施,從數據、身份和一體化管理實現全面的統一工具和應用接口(“U – Unified Tool & Application Interface”)。其中,AI-R-IAM-AI就緒的大模型身份與訪問管理,提供大模型應用的信任管理能力,確保模型調用和訪問的安全性;AI-R-SDLayer-AI就緒的安全數據通層提供元數據驅動的安全數據治理能力,幫助企業實現安全數據的高效管理和利用;AI-R-SOCC-AI就緒的安全合成管理中心以“監測-分析-處置-優化”的智能閉環為框架,構建動態響應的安全防護體系,全面覆蓋安全事件的全生命周期。


3、大模型應用防護的防護能力集群


防護能力層是MACSM賦能業務安全的關鍵環節,通過持續集成部署與交付,已經包含MAF、MASB、MAVAS和MADA Mask四大核心服務構建的安全智能體集群,構建基于“評估-融合-運營”理念的全生命周期防護體系?;谥撬愫湍P湍芰Φ牡鬃鶎拥闹?,安全防護智能體群不僅實現了多智能體對算力的統一管理和調度,并且實現單個專項安全智能體的隨愿供給;基于AI就緒的技術能力層的支撐,安全防護智能體群能夠由安全數據通層獲取統一數據服務,并實現了統一工具和應用接口(“U – Unified Tool & Application Interface”);基于以上堅持的平臺基礎建設,安全防護智能體集群實現了大范圍、深層次的多智能體的協同(“M – Multi-Agent Synergy”)能力。


在安全智能體集群中,MAF-大模型應用防火墻專注于為企業級大模型服務提供應用層安全防護能力的專屬安全產品,聚焦在大模型業務場景面臨的全新內容級、應用級威脅。MASB-大模型訪問安全代理聚焦大模型企業級場景下用戶交互訪問場景下數據防泄露、權限管控、合法合規安全需求,將云應用管控邊界擴展至大模型技術棧。MAVAS-大模型安全評估系統通過識別并防范模型在倫理、價值觀及對抗攻擊方面的潛在風險,幫助用戶實現合規運營、規避內容失控風險,保障生成內容的安全性。MADA Mask-大模型訪問脫敏罩在企業用戶與大模型應用之間的數據交互過程中,對輸入、輸出內容及上傳文件內容進行實時識別、脫敏和行為阻斷管理,有效防范數據泄露風險。MACSM具備云計算編排技術與AI智能體技術的雙向加持,真正做到從智能體應用使用到虛擬化系統層的全流程自主執行(“A – Autonomous Execution”)。


基于AI就緒的安全合成管理中心構建動態響應的安全防護體系,對大模型應用防護的“N件套”智能體集群進行有效管理,基于事件驅動架構實現全面的安全合規網格(“S – Secure-Compliance Mesh”)。


典型部署方式


依托虛擬化智算和網絡編排能力,MACSM實現了各類模型應用安全服務的按需彈性部署和動態無感接入。無論是初始部署還是后續擴展,都能高效適配企業的實際需求,為AI技術賦能業務創新提供堅實的安全保障。


MACSM通過三種部署接入模式,全面覆蓋所有大模型應用防護場景。


圖片3.jpg


1、面向端代理的模型應用防護模式(代理模式)


MACSM通過構建防護代理與大模型應用的訪問連接,提供如MASB、MADA Mask類的端側接入防護能力,實現模型輸入/輸出數據的雙向清洗通道。


2、面向串行接入的模型應用防護模式(網關模式)


MACSM可基于網關模式構建業務防護的串行接入,將模型應用防護能力部署在業務系統和模型之間,提供如MAF類網絡模式的高性能防護能力,形成一道強有力的安全屏障。


3、面向掃描評估的模型應用防護模式(掃描模式)


MACSM通過搭建模型應用防護服務與模型應用之間的網絡連接,提供如MAVAS類的模型應用安全評估與核查能力。該模式能夠深入識別和評估大模型的潛在風險,為企業提供可靠的安全狀況報告和優化建議。


典型應用場景


MACSM大模型應用安全資源池產品,開創性實現智算安全網元的統一納管與協同交付,徹底解決傳統分散式安全架構的弊端,為各行業提供全生命周期、多維度的安全保障,以下為其在不同領域的典型應用場景:


1、中國移動私有云場景


? AI基礎設施安全底座


MACSM與DeepSeek和“九天”大模型深度適配,提供從模型訓練到推理的全生命周期安全防護?;谥袊苿犹岢龅摹?236”AI安全體系架構,集成威脅檢測、合規監控等能力,支持私有云環境中多租戶模型的動態隔離與安全策略聯動,實現算力資源利用率提升,并降低跨系統運維成本。


智能安全運營中心


MACSM在中國移動私有云中實現威脅狩獵自動化,基于跨網元特征關聯分析,大幅提高攻擊識別率,同時有效降低告警誤報率,構建智能化的安全運營中心,全面提升企業安全運營效率。


2、政府行業場景


政務大模型安全合規治理


針對政府行業對數據主權與倫理合規的高要求,MACSM整合大模型應用安全“新四件套”及持續更新的安全網元產品,提供包含“模型訓練數據溯源”、“生成內容合規性檢測”以及“敏感信息防泄露”的“三位一體”安全防護,全面滿足政務大模型的安全與合規需求。


跨部門協同安全防護


MACSM通過統一策略引擎實現數據流轉的細粒度控制。例如,公安與交通部門聯合建模時,MACSM能夠動態劃分數據訪問邊界,防止跨域權限濫用。同時,支持國產化芯片與操作系統適配,完全符合等保2.0要求,為跨部門協作提供安全保障。


3、智算中心領域


多模態模型聯合防御


針對多模態大模型(如文本、圖像、語音融合場景),MACSM集成MAF應用防火墻與MASB訪問代理,能夠精準阻斷跨模態攻擊鏈。在AI生成內容(AIGC)審核中,MACSM能同步檢測文本誘導性風險與圖像敏感元素,顯著提升防御效率。


智算一體機&邊緣側輕量化安全部署


MACSM針對智算一體機硬件特性深度優化,預置模型壓縮與學習模塊,支持在邊緣設備上實現本地化威脅分析,特別適用于邊緣場景的威脅檢測與防護,助力智算中心實現端到端的安全覆蓋。


4、跨行業擴展應用


金融行業實時風控


MACSM在銀行智能客服與投研模型場景中,結合強化學習技術動態調整風險閾值,實現每秒萬級交易流量的異常行為檢測,提升欺詐識別準確率。


醫療行業隱私保護


在跨醫院聯合建模場景中,MACSM確?;颊邤祿翱捎貌豢梢姟?。面對醫院AI輔助診斷場景中,數據脫敏處理時間可從小時級縮短至分鐘級,并完全符合HIPAA與GDPR雙重要求。


教育行業內容安全


MACSM通過統一多維度語義分析,精準攔截違規問答。同時支持定制化倫理規則庫,幫助在線教育平臺在內容安全與倫理合規方面實現全方位保障。


安全與創新并行,立足現在擁抱未來


在百年未有之大變局中,人工智能技術正重塑全球產業格局,成為推動經濟社會發展的新引擎和綜合國力競爭的制高點。大模型技術作為人工智能領域的核心突破,已廣泛滲透至經濟、社會、國防等關鍵領域。然而,隨著技術應用的不斷深化,智算安全問題愈發凸顯,守護技術創新的安全底線已不僅是企業的責任,更是關乎國家戰略安全與產業長遠發展的重大命題。


啟明星辰推出的MACSM-大模型應用安全資源池,以技術自主為根基,以自信創新為核心,以安全為使命,助力國家在智算安全領域形成技術領先優勢,構建MANUS化的全效防護智能體集群。MACSM通過構建從底層智算到應用生態的縱深立體防護體系,不僅幫助企業應對大模型應用中的安全威脅,更為國家關鍵領域的智能化發展筑牢安全基石。


立足現在,就我之所能為用戶交付最先進的模型應用防護產品。擁抱未來,通過持續集成最先進的模型應用防護能力,始終實現安全與業務發展的協同共進。