AI賦能 安全先行 | 中國工程院院士吳世忠蒞臨啟明星辰調研指導
發布時間 2024-09-279月26日，中國工程院院士吳世忠蒞臨啟明星辰調研指導，啟明星辰集團董事長魏冰、首席執行官嚴望佳、總裁嚴立全程陪同，并圍繞“人工智能安全研究的現狀與展望”主題舉行了專題講座。
吳世忠院士指出，人工智能作為當今熱門話題，備受各界廣泛關注，在賦能百業千行創新發展同時，其安全問題呈現出前所未有的復雜性。因此，加強相應的安全研究，有效管控重大風險和安全隱患至關重要。
吳世忠院士首先從文獻分析的角度出發，對人工智能安全發展的總體態勢、關鍵內容、技術要點進行了詳細闡述，接著圍繞“理論研究、技術研究、倫理研究、應用研究”四大方向，系統化剖析了每個方向的關鍵研究問題；面向安全風險（檢）、安全防護（防）、安全攻擊（攻）、安全測評（測）、安全治理（治），深入分析技術難點和學術界的解決方案，以主動應對安全新挑戰，統籌好發展與安全，實現高質量發展。
最后，吳世忠院士表示，科技創新永無止境，人工智能方興未艾，安全風險如影相隨。通過對安全研究的梳理分析，可以得到以下四點啟示：
一是安全認知，日見清晰。人工智能的應用極大地改變了安全問題的內涵和外延，日漸呈現Security（既有安全），Safety（新興安全）和Ethics（倫理安全）相互交融的全新安全圖景。這一全新的圖景下，人工智能安全研究便是要構建人工智能自身的可信安全、人工智能攻防安全以及治理負責任的人工智能倫理安全。
二是安全研究，路阻且長。在大模型安全研究方面，存在大模型的解釋性和透明性不足、安全保障技術的復雜性和多樣性、倫理和道德問題的復雜性、安全測試和風險評估的復雜性等諸多難題，因此，大模型安全研究任重道遠且困難重重。
三是安全事業，大有可為。在AI驅動的新時代，人工智能賦能百業千行，自然會給安全行業注入強大的發展動能，更及時的威脅感知、更深入的行為分析、更精確的漏洞管理、更便捷的情報共享、更迅速的應急響應、更智能的風險管控是未來安全的基本走向和市場剛需，必將為安全行業提供管控用武之地。
四是緊跟創新，保障發展。無論是安全研究還是安全產業，都必須緊跟科技創新，才能服務好發展，保障好發展。具體而言，安全研究要緊扣人工智能進化中的新型安全風險，研究成果要更好地支撐社會應用或促進發展、治理政策的制定，研究路徑要更多地采用多學科、跨學科的研究方法。
啟明星辰作為中國移動專責網信安全專業子公司，多年來持續深耕人工智能安全領域，通過基于中國移動九天大模型的底座支撐，融合啟明星辰豐富的安全數據資源，推出安全行業垂直大模型——九天·泰合安全大模型；通過結合大小模型技術構建了安星智能體，作為九天·泰合安全大模型在L2層應用場景的核心，全面提升安全檢測、分析、響應和自動化處置全流程的智能化安全運營水平。
未來，啟明星辰將繼續秉持自主創新的理念，不斷加大在人工智能等新興領域的研發投入，加快核心技術攻關，推出更多專業的網絡安全方案及服務，助力用戶全面應對網絡安全領域的新挑戰，持續推動國家網絡安全產業高質量發展。
京公網安備11010802024551號