CIEC 2023 | 啟明星辰發表《人工智能安全大模型的應用架構與方案》主題演講
發布時間 2023-12-1512月14日，2023計算產業生態大會（CIEC 2023）計算安全分論壇在北京成功舉辦。啟明星辰北冥AI實驗室負責人李陟發表《人工智能安全大模型的應用架構與方案》主題演講，圍繞人工智能與網絡安全之間的關系，以及安全大模型解決方案技術路線、場景應用等進行分享。
李陟指出，人工智能與網絡安全之間存在著人工智能賦能安全和人工智能伴生安全兩個方面的關系。
在小模型時代，人工智能賦能安全的實例包括加密惡意流量檢測模型、DGA惡意域名檢測模型以及工控場景異常流量檢測等。這些模型通過利用人工智能技術，能夠更加高效地識別和防御網絡攻擊，提升網絡安全水平。
大模型時代，人工智能的應用類別分為對話模型、代碼模型、AI Agent。在安全領域，大模型的應用主要是通過對話窗口的形式，由人和大模型進行交互，實現告警解讀、調查取證等功能。整體技術路線主要以大模型為底座，通過理解人的意圖之后，調用Lang Chain等Al Agent框架，實現各種各樣的安全場景應用和安全操作。
“人工智能并不會真正取代傳統安全系統，而是和傳統安全系統融合在一起，成為安全分析人員的智能助手，提升安全運營工作效率?！崩钰毂硎?。
李陟分享了啟明星辰安全大模型解決方案技術路線圖。以中國移動九天大模型為基座，結合啟明星辰豐富的安全數據集，進行全量預訓練和微調，打造安全大模型。同時，通過安全大模型、專用小模型、安全產品的智能組合，提升產品能力和運營服務效率并應用到威脅檢測、安全運營、開發安全等安全場景中。
演講中李陟還詳細介紹了人工智能安全大模型的工程實踐方案，并通過具體的實例展示了安全大模型在網絡安全知識問答、安全檢測分析、分析報告生成、代碼分析和生成、安全運營自動化五個場景中的應用。
最后，李陟表示：“人工智能模型在高速發展，除人工智能安全應用外，我們還需關注人工智能模型自身的安全問題。期待未來人工智能安全大模型的應用取得更豐碩的成果，為網絡安全事業的發展做出更大的貢獻?！?/p>
關于“啟明星辰北冥AI實驗室”
北冥AI實驗室是啟明星辰專注于“人工智能賦能安全”和“安全的人工智能”技術研究的團隊，致力于構建人工智能和網絡空間安全交叉領域的專業技術能力，打造人工智能和安全雙向賦能的技術體系。目前團隊成功研發并發布了包括人工智能安全建模和賦能平臺、X-Copilot智能告警分析取證系統、機器視覺物理對抗攻擊檢測系統、盤小古安全大模型系統等多個人工智能安全產品。
京公網安備11010802024551號