2019盤點 | 人工智能與網絡安全的碰撞擦出了什么新火花
發布時間 2020-01-10轉眼間，我們就踏入一個
數字都成雙成對的2020年
在過去的時間里
人工智能技術獲得了長足發展
不斷刷新人們的認知
引發人們對它更多的期望
讓我們一起回顧2019
看一看
人工智能與網絡安全的碰撞
擦出了什么新的火花呢
RSAC 2019
人工智能技術從“宣傳噱頭”逐漸轉向實際應用
每年召開的RSA大會被看作是網絡安全業界的風向標，很多新的技術與理念誕生于此。
在2019年的RSA大會上，參展的736家廠商中有124家的宣傳主題中包含人工智能/機器學習關鍵詞，這表明了人工智能技術在網絡安全領域繼續得到普遍關注與認同。
然而，當我們深入觀察比較近兩年參展商所進行的宣傳時，會發現一些變化，最重要的一點是人工智能技術從作為“宣傳噱頭”逐漸轉向實際應用。具體差異如下表所示：
2018年與2019年RSA大會參展商對人工智能技術宣傳的對比
從這些差異可以看出，對于人工智能技術，網絡安全業界“冷靜”下來了，不再追求所謂最新、最酷的算法，而是將其真正轉化為產品的能力，關注如何能在實際環境中選擇恰當合理的方案使其充分發揮作用。
啟明星辰作為國內網絡安全行業的領航者，始終朝著這一目標努力。在2019年，我們持續致力于將相關研究工作成果轉化為實際產品能力，在威脅檢測、用戶行為畫像、威脅情報等方面都已經取得了實質性進展。
Gartner 新興技術成熟度曲線
可解釋人工智能崛起打破人工智能技術的“黑盒”應用模式
2019年8月，Gartner發布了新一年度的新興技術成熟度曲線。一如過去兩年，人工智能技術繼續占據了“半壁江山”。在曲線上總計29項技術中與人工智能直接相關的達到15項，這再次印證了人工智能技術的持續高速發展以及它所受到的高度關注與期望。在這些技術中，有的是延續上一年仍在曲線上，如自動駕駛、知識圖譜等，也有很多是新出現的，就比如我們下面要討論的可解釋人工智能（Explainable AI，簡稱XAI）技術。
2019年Gartner新興技術成熟度曲線（人工智能相關技術用紅色下劃線標示）
可解釋人工智能這一研究領域早在2014年就被正式提出，它的主要目標是將人工智能技術的“黑盒”應用模式打破，讓人們可以理解人工智能做出的決策。人工智能“黑盒”應用的問題在網絡安全領域尤為重要，因為它不僅給結果的準確性認定帶來了困難，而且會造成難以深入分析、無法追蹤溯源的情況，甚至會導致人們對于人工智能技術的不信任。因此，在網絡安全領域采用可解釋人工智能方法，將有助于解決上述問題，使得基于人工智能構建的網絡安全應用更容易被人們所接受。
人工智能“黑盒”應用在網絡安全領域中存在的問題
啟明星辰對于前瞻性技術一直堅持積極探索的態度，在2019年我們嘗試將可解釋人工智能的方法應用于之前基于深度學習算法所構建的網絡安全威脅檢測模型，取得初步成果，能夠用可視化的方法直觀標示出對算法模型所做出的決策產生重要影響的原始輸入數據中的關鍵部分（即更可能包含有安全威脅的部分）。
Gartner發布2020十大戰略性技術趨勢
擁有三維含義的人工智能安全位列其中
2019年10月，Gartner發布了2020十大戰略性技術趨勢，其中“AI Security”（人工智能安全）位列其中。但是，這里的人工智能安全不僅是指將人工智能技術用于網絡安全防御，而是給出了它的三維含義，即保護AI賦能的系統、利用AI來提升安全防御以及對AI的惡意使用。
Gartner發布的2020十大戰略性技術趨勢
● 保護AI賦能的系統
保護AI賦能的系統主要是關注人工智能自身的安全問題。日前，一條關于一家美國AI公司使用3D打印的面具破解包括支付寶、微信支付等人臉識別系統的新聞刷爆了各大媒體，這正是AI賦能的系統遭受攻擊的典型案例。此外，AI賦能的系統還會受到訓練數據投毒、模型竊取、對抗樣本等多種類型的攻擊。未來，隨著AI的日益廣泛應用，這方面的問題將會越來越多地呈現在人們面前。因此，當我們采用AI賦能網絡安全防御系統時，也應關注其自身的安全問題。
● 利用AI來提升安全防御
利用AI來提升安全防御是網絡安全領域最早關注的方面。Gartner在報告中指出不能僅依靠機器學習作為安全解決方案中的單一防御技術，基于機器學習的安全工具也不是為了完全取代現有工具而設計的。這告訴我們不應過度神話機器學習等AI技術在網絡安全應用中的能力，而應保持理性態度，分析選擇適合的應用場景，使其發揮最大價值。
● 對AI的惡意使用
對AI的惡意使用也是近年來時常被提及的話題，一個廣為人知的實例是DeepFakes的惡意使用。DeepFakes是一款AI換臉工具，可將圖片或視頻中的人換臉，惡意使用則包括偽造圖片或視頻用于欺詐、傳播虛假消息、制作色情內容等。在網絡安全領域，AI也可被利用來輔助攻擊，例如Cyxtera公司演示了一個基于機器學習的釣魚攻擊生成器，可以自動構造出能騙過檢測系統的有效釣魚鏈接及郵件。另一個知名案例是應用了強化學習算法A3C的自動滲透測試工具Deep Exploit，可實現一定程度上的自主學習生成漏洞利用載荷。借助AI能使得攻擊更加自動化和難以防御，未來很有可能出現AI之間的攻防對抗。
個性動圖分割線
隨著人工智能與網絡安全的深入融合，越來越得到業界的關注與認可。未來，啟明星辰將繼續基于AI的惡意代碼識別與威脅檢測、用戶實體行為分析、安全知識圖譜等研究積累的基礎上，與其他技術及可解釋人工智能方法等相結合，向著打造“可用、實用、易用、好用”的基于AI的網絡安全應用的目標不斷前進，并緊密跟進人工智能安全的另兩維含義所涉及的相關前沿技術研究，譜寫AI賦能網絡安全的新篇章。
京公網安備11010802024551號