?一文預見AI 安全發展的新實踐、新趨勢
發布時間 2023-02-08編者按：
2022年，人工智能（AI）技術的新發展與新應用，依舊不停地捕獲人們眼球，同時AI與網絡安全的交叉碰撞，繼續創造值得關注的新問題與新實踐。本文詳細介紹了AI技術發展新動態、AI安全新實踐，分析預測了當前AI安全的發展新趨勢。
AI技術發展持續高漲
在2022年度，AI技術繼續保持高速發展，其中以下兩點尤其值得關注：
一是生成式AI技術牢牢占據人們的視野。由文本生成圖像的DALL?E2掀起這一熱潮，其后以Stable Diffusion為代表的擴散模型，讓每個人都可以成為數字圖像藝術的創作者，還有可由文本生成視頻的Make-a-Video與Imagen等。尤其近日橫空出世的文本生成技術ChatGPT更是快速席卷全網，對話、問答、寫作等樣樣精通，甚至連機器學習領域的知名學術會議ICML都專門制定政策，以禁止在投稿論文中包含從ChatGPT等大型語言模型生成的文本。
二是AI技術繼續為其他學科領域的研究助力。例如：DeepMind的AlphaFold完成了對100萬個物種體內約2.2億個蛋白質的結構預測，Meta的ESMFold只用了2周時間預測了約6.17億個蛋白質的結構，雖然準確度不如AlphaFold，但預測速度快了60倍；DeepMind的AlphaTensor可以自動搜索發現更高效的矩陣乘法算法等。
伴隨著新算法模型的不斷出現，AI技術向上為前沿科學研究提供支撐助力，向下更深入滲透到社會生活的方方面面，處理文字、圖像、視頻、語音等各種信息載體的能力不斷提升，一個完全由AI驅動的“人造人”似乎距離我們越來越近。
AI安全新實踐賦能網絡安全新發展
AI技術的持續發展也推動著它與安全的更多碰撞融合，主要包含“AI賦能網絡安全與AI自身安全”兩大方面。
在AI賦能網絡安全方面，其發展依舊呈現出穩步向落地推進的總體趨勢。以下是兩個較為詳細且較新的典型案例，同時對啟明星辰所開展的類似實踐工作進行簡要說明。
LiveAction的加密分析（Cryptanalysis）技術：LiveAction將加密分析技術分為三個層次——流量分析（IP地址、端口、協議、時間戳等維度）、證書分析（加密套件、TLS指紋等維度）與深度報文動態特征分析（包長度序列及時間序列等維度）。通過對三個層次的組合應用，實現更精確的加密流量檢測。
針對此技術，啟明星辰積極開展了相關研究，圍繞采用加密的DNS隧道、HTTP隧道及HTTPS隧道通信的攻擊流量，設計出高效的AI檢測技術，并在NFT及TAR等產品中實現落地應用。
Ionate的AIOps與AISecurity平臺：Ionate為AI賦能網絡安全設計一套解決方案，部署的AIOps與AISecurity平臺，能夠應對處理多樣化的、低質的及不完整的數據集，對數據進行規范化處理，通過靈活配置算法訓練異常檢測模型，并在模型啟用后監測表現以實現自適應調整。
啟明星辰自主研發的人工智能安全建模和賦能平臺，正是將AIOps自動化運營的能力加持到AI安全建模的全過程中，全面提升數據獲取、數據處理、算法配置、模型訓練、模型部署等步驟的效率，讓AI檢測分析模型更加觸手可及。
在AI自身安全方面，針對AI算法模型的攻擊一直是學術研究的熱點之一，存在數據投毒、對抗樣本、成員推斷、模型萃取等多種攻擊方式，對AI應用帶來嚴重威脅。Gartner發布的2023十大戰略技術趨勢中將AI信任、風險及安全管理（AI TRiSM）列入其中，反映出業界對此的關注與重視。
啟明星辰積極投入到AI自身安全方面的相關工作中，包括參加AI計算平臺安全框架標準的制定工作及一些相關研究課題等，上文所述的AI安全建模和賦能平臺中也將融入相應功能，對構建的模型提供防護。
AI與網絡安全將更加深入交融
隨著AI技術的持續快速發展以及網絡安全新場景的不斷增加，可以預見AI與網絡安全之間在未來將有更深入的交叉融合，具體包含以下三大方面。
1、面對AI技術新進展，機遇與風險并存
新技術表面上看似與網絡安全領域沒有直接關系，卻存在很大的潛在關聯。一方面，新技術可以進一步助力現有的網絡安全應用并促進形成新應用。例如，自然語言理解技術的持續發展將助力高質量威脅情報的自動提取，同時促進類似于智能客服系統的安全運營智能助手等新應用的誕生；另一方面，這些技術也可能被惡意利用，從而產生新的安全威脅，比如生成式AI技術可以被用于生成更加逼真的虛假圖像或釣魚郵件，甚至可被用于自動生成惡意軟件的代碼等等。因此，AI技術的新進展既是擴展與提升網絡安全應用的新機遇，同時也伴隨著一些新的安全風險與威脅需要應對。
2、AI模型部署后的性能監控與自適應更新將獲得更多關注
AI賦能網絡安全的一類重要應用是通過構建各類AI模型，實現對威脅分析檢測的支持，而網絡安全威脅是持續發展演變的，新的惡意代碼與新的攻擊手段不斷出現，基于歷史數據、樣本所構建的模型不可能長期有效。這就需要對已部署的模型進行監控，并在發現性能下降后能夠執行自動更新而無需過多的人力投入。實際上所有AI模型應用都會面臨類似問題，在Gartner發布的2022年和2023年戰略技術趨勢報告中，AI工程與自適應AI分別被列入，也體現出業界對這一問題的關注。因此，在網絡安全領域，隨著越來越多的AI模型實現落地部署，模型性能的監控與自適應更新技術也勢必將受到更多關注。
3、AI助力網絡安全研究未來可期
在上文提及AlphaFold、AlphaTensor等AI助力其他學科領域研究工作的案例，相關工作仍在不斷優化與擴展，可以預期AI技術在未來將會助力更多科學研究工作。網絡安全學科領域同樣也是潛在的被助力對象。從廣義上來說，現有的AI賦能網絡安全技術研究也是一種助力形式，主要是利用AI技術來提升一些網絡安全問題的解決能力與效果，比如提升威脅分析檢測能力、漏洞自動挖掘能力等；從長遠的視角來看，網絡安全領域一些更深層、更基礎的問題也將會得到AI助力，比如網絡攻防策略、密碼/協議/系統安全性分析等。
目前，人工智能技術在高速發展過程中，其安全也面臨諸多挑戰。啟明星辰將會繼續堅持技術創新驅動引領發展，在人工智能安全等前沿技術領域不斷開拓前行，穩步提升與“護航數字中國，領航信息安全”這一使命愿景相匹配的安全能力，進一步助力我國網絡安全的高質量發展。
京公網安備11010802024551號