2025中國移動云智算大會 | 啟明星辰潘柱廷:解碼大模型應用安全新賽道

發布時間 2025-04-11
4月10日,以“智算啟新 安全筑基”為主題的2025中國移動云智算大會智算基礎設施及安全分論壇在蘇州成功召開。會上,中國移動聯合啟明星辰等發布《算力網絡安全關鍵技術白皮書》,啟明星辰副總經理潘柱廷發表題為《解碼大模型應用安全新賽道》的主題演講,系統闡述了大模型應用安全MAS新賽道、新格局,創新性提出通過智能體集群路徑,推動網絡安全防御體系升級的戰略構想。


圖片1.jpg


潘柱廷以啟明星辰大模型應用安全產品矩陣為切入點,指出自2025年2月6日起,啟明星辰以周為單位加速產品迭代,已完成多項技術升級,成功構建完整的大模型應用安全產品矩陣,形成覆蓋全場景的大模型應用安全防護體系。

在大模型應用安全的智能體集群化演進路徑分析中,潘柱廷強調ChatGPT推動AI從學術圈走向技術圈,而DeepSeek作為大模型領域王炸級、國運級技術產品,憑借輕量化架構和低成本的特性加速AI技術向全行業滲透。這種技術革新不僅重構企業組織形態和創新機制,還催生出服務側、訪問側及高價值場景深度應用安全需求的新賽道,引領人工智能進入全面創新的新時代。

針對大模型應用的安全風險,潘柱廷則提出"需重視但無需焦慮"的核心觀點。他表示,目前啟明星辰等產業各方已具備成型的安全防御產品及方案,如通過動態防護體系有效應對智能體自主決策風險,通過智能體集群治理方案解決多智能體協作中的權限與倫理沖突等,切實保障大模型應用形成的新安全格局。


隨著AI應用向跨域協同的智能體網絡演進,網絡安全防御體系正同步向智能預測方向升級。作為中國移動專責網信安全專業子公司,啟明星辰將與中國移動持續深度融合,重點加大在AI安全治理、算網融合安全等領域的研發投入,共同構建智能時代的安全基座,為數字中國建設提供堅實的安全保障。