2018年 | 人工智能 + 網絡安全看這里
發布時間 2019-01-09
轉眼都9102年了，又是進行各種總結回顧的時間，本文將針對2018年度人工智能技術在網絡安全領域的融合應用及發展情況做出一個簡單的回顧。
人工智能光環依舊
我們首先來看風頭正勁的人工智能技術。觀察Gartner近兩年的新興技術成熟度曲線（如圖1-2，分別于2017年7月及2018年7月發布），可以非常清晰地發現人工智能技術的“霸主”地位：在曲線上所包含的總計30多項技術中，約15項與人工智能相關，其中在近年來一直受到高度關注的深度學習技術更是持續兩年位于曲線的巔峰位置（Peak of Inflated Expectations）。
人們對于人工智能的期待甚高，各行各業都在嘗試這一技術以期取得改變和提升，遍及金融、醫療、教育、娛樂、購物等社會生活的方方面面，似乎沒有采用人工智能技術就與“先進”、“前沿”這類描述告別；而技術之外的社會倫理探討也不乏少數，5月發售的互動電影游戲《底特律：成為人類》正是其中典型。
國內對于人工智能的關注與投入更是如火如荼。在2017年發布《新一代人工智能發展規劃》及《促進新一代人工智能產業發展三年行動計劃（2018-2020）》之后，各企業、高校及研究機構都奮勇向前，積極探索新一代人工智能技術及應用，人工智能獨角獸企業得以迅速發展。
2018年10月31日在中共中央政治局第九次集體學習上，習近平總書記強調要深刻認識加快發展新一代人工智能的重大意義，加強領導，做好規劃，明確任務，夯實基礎，促進其同經濟社會發展深度融合，推動我國新一代人工智能健康發展。
因此，在可預見的未來，人工智能的光環不會暗淡下去，即使技術上的突破沒能很快出現，在應用方面也仍將會持續發展。
"人工智能+網絡安全"熱度升級
人工智能技術的大火也漫延至網絡安全領域，無論是學術研究還是業界都是如此。在學術研究方面，簡單統計近三年的相關學術論文數量（如表1，總文章數根據谷歌學術搜索計數估計，頂會文章數為CCF推薦國際學術會議目錄中網絡與信息安全類別A類會議文章統計），可以明顯看出論文數量的持續增長。
業界的態度可以從2018年4月舉辦的RSA大會上窺見一斑：在總計577家參展商中，包括人工智能、機器學習為主題關鍵字的廠商分別有71家和98家，具體應用更是幾乎覆蓋全線安全產品，包括文件檢測、終端安全、郵件安全、威脅情報、用戶畫像、賬戶認證等等。與此同時，利用人工智能技術的新型攻擊手段以及專門針對人工智能算法的攻擊形式（對抗性攻擊）也開始逐漸出現。表面上看起來，似乎人工智能技術在網絡安全領域已經得到了廣泛應用，然而現實情況還是有一定差距的，人工智能更多還是作為宣傳關鍵詞的角色出現，尚不能成為產品的核心支撐技術，其中有如下兩點重要原因是不可忽視的：
一是人工智能技術的可靠性
這里的可靠性不是傳統意義上的系統可靠性，它包含可解釋性、安全性、健壯性等多個含義。只有在這些方面取得有力保證，才能確?；谌斯ぶ悄芗夹g所構建的網絡安全產品的可信賴性。這點與當前很多流行的互聯網應用有明顯差別，因為推薦一個不特別合適的商品或電影不會帶來太多危害，而原因不明的安全警報所造成的影響要嚴重得多。
二是專業人才的稀缺性
在人工智能和網絡安全領域均具備豐富知識技能的人才，可能和北京這幾年的下雪天一樣稀少罕見。在缺乏安全領域知識情況下構建出的算法模型難以取得理想的效果，而且也無法提供上述的可靠性保證；而沒有豐富的人工智能實踐經驗，又會阻礙這一技術在安全領域應用的探索進程，容易陷入對算法模型的無目標嘗試。
因此，2018年是在人工智能技術發展的大潮下，網絡安全領域也積極跟進的一年，但技術應用的成熟度仍有待提升，人工智能技術與網絡安全領域知識的深度融合需要進一步增強。
我們的研究探索
啟明星辰公司作為國內網絡安全行業的領航者，一直堅持對新技術的探索與研究。在人工智能技術與網絡安全領域的融合應用方面，2018年我們在之前工作的基礎上繼續發力，包括在惡意代碼檢測（包括文檔類文件、腳本類文件等）、流量檢測識別及異常發現等應用場景中運用機器學習、深度學習算法，在惡意代碼同源性分析、攻擊路徑分析等問題中運用知識圖譜技術，同時開始逐步推進研究成果的產品轉化，例如在APT檢測及網絡用戶實體行為智能安全分析系統（V-UEBA）中的人工智能技術應用等。
在2018年的研究探索中，我們將人工智能技術與大數據分析處理更緊密關聯，著力于網絡安全領域知識與機器學習等算法模型的深層結合，以構建特定場景下可解釋人工智能應用為目標，思考基于人工智能的網絡安全應用與已有成熟技術的有效協作手段。新技術的學習、高質量數據的獲取、應用場景的刻畫、領域知識的抽象等無一不包含著各種難題，期待更多有志有識之士一同加入“探險”的行列。
展望新的一年，啟明星辰已經繼續踏上征程，將持續推動人工智能技術的落地，與安全大數據分析更好的擁抱結合，在深入理解安全問題及業務場景的基礎上充分發揮人工智能技術的優勢作用，構建多元技術融合的良好生態。
人工智能光環依舊
我們首先來看風頭正勁的人工智能技術。觀察Gartner近兩年的新興技術成熟度曲線（如圖1-2，分別于2017年7月及2018年7月發布），可以非常清晰地發現人工智能技術的“霸主”地位：在曲線上所包含的總計30多項技術中，約15項與人工智能相關，其中在近年來一直受到高度關注的深度學習技術更是持續兩年位于曲線的巔峰位置（Peak of Inflated Expectations）。
人們對于人工智能的期待甚高，各行各業都在嘗試這一技術以期取得改變和提升，遍及金融、醫療、教育、娛樂、購物等社會生活的方方面面，似乎沒有采用人工智能技術就與“先進”、“前沿”這類描述告別；而技術之外的社會倫理探討也不乏少數，5月發售的互動電影游戲《底特律：成為人類》正是其中典型。
圖1. 2017年Gartner新興技術成熟度曲線
（人工智能相關技術）
圖2. 2018年Gartner新興技術成熟度曲線
（人工智能相關技術）
國內對于人工智能的關注與投入更是如火如荼。在2017年發布《新一代人工智能發展規劃》及《促進新一代人工智能產業發展三年行動計劃（2018-2020）》之后，各企業、高校及研究機構都奮勇向前，積極探索新一代人工智能技術及應用，人工智能獨角獸企業得以迅速發展。
2018年10月31日在中共中央政治局第九次集體學習上，習近平總書記強調要深刻認識加快發展新一代人工智能的重大意義，加強領導，做好規劃，明確任務，夯實基礎，促進其同經濟社會發展深度融合，推動我國新一代人工智能健康發展。
因此，在可預見的未來，人工智能的光環不會暗淡下去，即使技術上的突破沒能很快出現，在應用方面也仍將會持續發展。
"人工智能+網絡安全"熱度升級
人工智能技術的大火也漫延至網絡安全領域，無論是學術研究還是業界都是如此。在學術研究方面，簡單統計近三年的相關學術論文數量（如表1，總文章數根據谷歌學術搜索計數估計，頂會文章數為CCF推薦國際學術會議目錄中網絡與信息安全類別A類會議文章統計），可以明顯看出論文數量的持續增長。
表1. 近三年“人工智能+網絡安全”主題學術論文數量
業界的態度可以從2018年4月舉辦的RSA大會上窺見一斑：在總計577家參展商中，包括人工智能、機器學習為主題關鍵字的廠商分別有71家和98家，具體應用更是幾乎覆蓋全線安全產品，包括文件檢測、終端安全、郵件安全、威脅情報、用戶畫像、賬戶認證等等。與此同時，利用人工智能技術的新型攻擊手段以及專門針對人工智能算法的攻擊形式（對抗性攻擊）也開始逐漸出現。表面上看起來，似乎人工智能技術在網絡安全領域已經得到了廣泛應用，然而現實情況還是有一定差距的，人工智能更多還是作為宣傳關鍵詞的角色出現，尚不能成為產品的核心支撐技術，其中有如下兩點重要原因是不可忽視的：
一是人工智能技術的可靠性
這里的可靠性不是傳統意義上的系統可靠性，它包含可解釋性、安全性、健壯性等多個含義。只有在這些方面取得有力保證，才能確?；谌斯ぶ悄芗夹g所構建的網絡安全產品的可信賴性。這點與當前很多流行的互聯網應用有明顯差別，因為推薦一個不特別合適的商品或電影不會帶來太多危害，而原因不明的安全警報所造成的影響要嚴重得多。
二是專業人才的稀缺性
在人工智能和網絡安全領域均具備豐富知識技能的人才，可能和北京這幾年的下雪天一樣稀少罕見。在缺乏安全領域知識情況下構建出的算法模型難以取得理想的效果，而且也無法提供上述的可靠性保證；而沒有豐富的人工智能實踐經驗，又會阻礙這一技術在安全領域應用的探索進程，容易陷入對算法模型的無目標嘗試。
因此，2018年是在人工智能技術發展的大潮下，網絡安全領域也積極跟進的一年，但技術應用的成熟度仍有待提升，人工智能技術與網絡安全領域知識的深度融合需要進一步增強。
我們的研究探索
啟明星辰公司作為國內網絡安全行業的領航者，一直堅持對新技術的探索與研究。在人工智能技術與網絡安全領域的融合應用方面，2018年我們在之前工作的基礎上繼續發力，包括在惡意代碼檢測（包括文檔類文件、腳本類文件等）、流量檢測識別及異常發現等應用場景中運用機器學習、深度學習算法，在惡意代碼同源性分析、攻擊路徑分析等問題中運用知識圖譜技術，同時開始逐步推進研究成果的產品轉化，例如在APT檢測及網絡用戶實體行為智能安全分析系統（V-UEBA）中的人工智能技術應用等。
在2018年的研究探索中，我們將人工智能技術與大數據分析處理更緊密關聯，著力于網絡安全領域知識與機器學習等算法模型的深層結合，以構建特定場景下可解釋人工智能應用為目標，思考基于人工智能的網絡安全應用與已有成熟技術的有效協作手段。新技術的學習、高質量數據的獲取、應用場景的刻畫、領域知識的抽象等無一不包含著各種難題，期待更多有志有識之士一同加入“探險”的行列。
展望新的一年，啟明星辰已經繼續踏上征程，將持續推動人工智能技術的落地，與安全大數據分析更好的擁抱結合，在深入理解安全問題及業務場景的基礎上充分發揮人工智能技術的優勢作用，構建多元技術融合的良好生態。
京公網安備11010802024551號