大模型應用防火墻
MAF
需求分析
隨著DeepSeek成為當前最熱的現象級產品，中國企業級大模型市場將迎來爆發。以DeepSeek為核心的大模型的應用場景將不斷拓展，深入到金融、醫療、教育、政務、制造業等各行各業。為應對大模型出現的安全風險，構建大模型安全防護體現在國家政策、技術群構建多方面進行布局。
在國家政策層面，我國已將人工智能的發展定位為國家戰略。2024 年政府工作報告明確提出深化大數據、人工智能等技術的研發與應用，且國家相關部門陸續發布了一系列規范文件。與知識版權、數據隱私等大模型相關的法律法規和國家標準也亟待逐步建立，以共同形成健全完備的大模型安全標準體系。
產品簡介
產品簡介
天清MAF（Module Application Firewall）大模型應用防火墻是專注于為企業級大模型服務提供防護能力的專屬安全產品，聚焦在大模型業務場景面臨的全新內容級、應用級威脅，以“大模型技術”應對“大模型風險”。
面向大模型實時推理業務場景，通過在線部署&實時攔截模式，協助用戶構建多維度安全防護機制，對智能體或大模型推理服務的交互內容進行深度安全檢測與防護。
功能特點
-
提示詞注入攻擊防護：
基于以大模型防護大模型的技術理念，創新性的采用了多引擎檢測技術架構，包括顯式高速內容檢測引擎、多級Transformer語義檢測引擎、安星智能體深度邏輯對抗引擎等，基于可控的算力消耗，實現了高性能、低時延的自然語言提示詞注入攻擊防護。
-
過度代理攔截：
基于自然語言輸入理解其要調用的工具及指令動作，并與安全管理員設置的工具調用權限或范圍進行對比，從而攔截各類越權調用、非法提示詞、惡意SQL操作等。
-
算力拒絕服務攻擊防護：
降低各類有意或無意且不具備業務價值的提示詞輸入，從而節約基礎算力投資。
-
敏感信息防泄漏：
基于內置的高性能內容安全引擎，通過對輸入輸出數據的全面解析，可有效識別、封堵、脫敏各類不安全輸出或敏感信息輸出。
-
系統提示詞工程防泄露：
基于顯式高速內容檢測引擎及多級Transformer語義檢測引擎，可從自然語言角度理解并解析不應輸出的系統提示詞。在檢測到敏感的系統提示詞后，將進行靈活的內容脫敏、替換或封堵動作。
-
內容安全管控：
通過領先的自然語義檢測引擎，不但能夠基于關鍵字檢測和攔截各類非法提問，還能理解輸入的上下文邏輯、語氣、情感等，從而有效規避各類內容安全風險，確保業務應用合法合規。
-
應用安全防護：
業界領先的應用層攻擊防護能力，可保護大模型業務應用免受各種應用層攻擊，防護暴露面組件漏洞導致的外部攻擊。
京公網安備11010802024551號