• <button id="hmaw9"><acronym id="hmaw9"></acronym></button>
  • <nav id="hmaw9"></nav>

  • AI+安全 > 人工智能安全相關資訊

    啟明星辰發布大模型應用安全“新三件套”,奠基“后DeepSeek智能時代”的安全基石

    作者: 2025-02-17

    “讓每一句人機對話都安全可信,讓每一次智能交互都風險可控——這是屬于AI時代的安全承諾。 

    —— 啟明星辰”


    從傳統網絡安全到AI原生安全:一場跨越20年的范式升級


    2003年,防火墻、入侵檢測、漏洞掃描構成的"安全鐵三角"守護了PC互聯網時代;當ChatGPT4.0發布后,標志著大模型邁出了學術圈,讓2023年樹立起一個AI里程碑;2025年春節前后,DeepSeek的爆火,讓AI真正邁出了技術圈成為了全行業全社會的新動能。技術驅動千行百業智能化升級了“發展”這一翼,一體之另一翼的“安全”也必然煽動起風潮。AI大模型應用安全的新需求、新賽道、新板塊應運而生。


    2025年2月17日,啟明星辰正式完整發布,推出面向AI原生安全的大模型應用安全“新三件套”:


    1.MAF 大模型應用防火墻 

    Model Application Firewall


    2.MASB 大模型訪問安全代理 

    Model Access Security Broker


    3.MAVAS 大模型安全評估系統 

    Model Application Vulnerability Assessment System


    構筑起大模型應用的全閉環、全生命周期安全防線。


    圖片1.jpg


    ? 第一件:MAF大模型應用防火墻——智能對話的“安全閘門”


    MAF大模型應用防火墻是專注于為企業級大模型服務提供應用層安全防護能力的專屬安全產品,聚焦在大模型業務場景面臨的全新內容級、應用級威脅,以“大模型技術”對抗“大模型威脅”,從而打破傳統防火墻難以應對大模型動態交互和內容風險場景:


    ? 大模型提示詞注入攻擊防護:通過專用AI算法,基于自然語義理解,精確識別提示詞注入行為,確保輸入內容符合大模型業務應用的邊界。


    大模型對話/API敏感數據防泄漏:通過對輸入輸出數據的全面解析,對大模型API或對話交互過程中的敏感信息輸出實時識別、封堵或脫敏,確保大模型服務合規運行。


    大模型應用層拒絕服務攻擊防護:針對應用層拒絕服務攻擊,提供包括密碼防爆破、人機識別、地理區域訪問控制、API限流保護等一系列功能,為大模型服務提供完整的應用層抗拒絕服務攻擊能力。


    大模型應用層漏洞攻擊防護:內置國內領先的應用層防護規則/語義算法,有效防護各類針對大模型暴露面的軟件漏洞攻擊。


    MAF應用場景:所有本地化部署大模型業務應用的場景均建議部署,如金融行業大模型服務安全防護、電子政務人工智能對話服務防護、企業內部大模型代碼生成防漏洞植入等。


    ? 第二件:MASB大模型訪問安全代理——模型交互的“數據安檢通道”


    聚焦在大模型企業級場景下用戶交互訪問場景下數據防泄露、權限管控、合法合規安全需求,MASB(大模型訪問安全代理,Model Access Security Broker)是在繼承了海外主流產品形態CASB在云應用訪問管控的基礎上,將云應用管控邊界擴展至大模型技術棧:


    企業敏感數據防泄漏圍欄(AI-Sensitive DLP):實時檢測大模型用戶上傳文件敏感信息,動態策略+行業庫精準攔截;


    提示詞“端到端”全鏈路審計(Prompt Guardian):輸入(指令掃描)、交互(元數據鏈)、輸出(合規對比)全鏈路審計;


    影子AI識別管控(Shadow AI Hunter):自動發現并管控AI資產與員工使用,確保合規可控;


    AI-Native 零信任訪問控制:動態鑒權(身份/意圖/數據敏感度)+Token級管控防語義攻擊+會話級風險阻斷;


    云-端策略一致化:安全客戶端聯動實現跨網絡(內網/Wi-Fi/熱點)AI訪問與內網管控強度一致;


    企業級安全Portal門戶(AI Secure Chat):基于角色/設備動態管控(對話限制/關鍵詞攔截/人工審核),完整會話審計滿足強監管要求。


    MASB典型價值場景:大模型使用過程中防數據泄露、企業AI訪問權限管控。


    ? 第三件:MAVAS大模型安全評估系統——模型風險的“CT掃描儀”


    MAVAS大模型安全評估系統通過識別并防范模型在倫理、價值觀及對抗攻擊方面的潛在風險,幫助用戶實現合規運營、規避內容失控風險,保障生成內容的安全性。MAVAS成為業內首個覆蓋"系統-模型-應用"的全棧評測體系:


    風險透視:通過包含20000+高質量對抗樣本的測試庫,自動化評估模型在道德倫理、歧視偏見、財產隱私、反面誘導、目標劫持等14類安全隱患,量化評估模型抗攻擊能力;


    對抗評估:基于大模型實現對抗攻擊場景下的對抗樣本生成和增強,以及安全評估場景下的大模型安全評估結果判定;


    攻防推演:支持自定義攻擊算子,自動化驗證攻擊樣本的有效性,聯動電子圍欄驗證安全策略,以持續攻防博弈增強攻防雙向水平;


    全棧評測:通過集成脆弱性掃描、Web漏掃等引擎,一站式全面評估大模型應用的系統、模型和應用的安全風險;


    合規分析:內置包含生成式AI安全的相關法案和標準的知識庫,通過智能助手比對模型安全評估結果給出合規分析和建議。


    MAVAS核心突破場景:大模型應用上線前安全驗證、第三方模型采購風險評估。


    三維立體的大模型應用安全防御體系


    當MAF在大模型應用的服務側構建起覆蓋全層次的防護墻,確保服務的合規、可靠和正向價值;MASB在大模型應用的訪問側架構雙向安全隧道,保護使用者的自身權益和利益;MAVAS在全局視角針對大模型應用的各環節進行全方位安全評估,進而促進體系更加堅韌健康。


    MAF、MASB、MAVAS三者形成了“事前預防-事中攔截-事后評估”的完整閉環,形成了“服務提供者、使用者、保障者”的立體安全格局。


    開啟“后DeepSeek智能時代”的新安全范式


    大模型安全不是傳統網絡安全的簡單延伸,而是需要重構從協議架構到防御邏輯的AI原生安全體系。啟明星辰發布的大模型應用安全"新三件套",正是為千行百業的大模型落地掃清安全障礙,讓技術創新始終行駛在安全的軌道上。


    “新三件套”只是一個開始


    啟明星辰發布了MAF、MASB、MAVAS組成的大模型應用安全的新三件套,精準滿足了廣大機構在大模型全局應用初期面臨的核心、高頻且迫切的安全需求。為了構建更加全面、堅固的安全防護體系,啟明星辰正穩步規劃并逐步推出一系列增強的安全產品、服務與解決方案,涵蓋MCG大模型內容網關、M-ZTNA大模型環境的零信任、M4A大模型環境的4A、大模型應用安全域服務以及大模型應用安全邊緣服務等。這一系列創新的安全產品與服務將共同構筑成一個高價值的全新業務板塊,引領行業發展新方向。


    價值在哪里,哪里就需要安全;發展在哪里,安全的羽翼就會呵護哪里。在“后DeepSeek智能時代”,啟明星辰知行合一,要:讓每一句人機對話都安全可信,讓每一次智能交互都風險可控——這是屬于AI時代的安全承諾。

    上一篇 下一篇

    7*24小時服務熱線

    400-624-3900


    日韩一级无码精品电影,99re99精品精品免费,91精品网曝门事件在线观看,日韩欧美精品户外