啟明星辰CEO嚴望佳:人工智能需要安全,安全也需要人工智能

發布時間 2018-05-16

充滿人工智能的科技生活會是什么樣?
 
由史蒂文·斯皮爾伯格執導,在兩個月前上映的電影《頭號玩家》為我們預見未來科技打開了眼界。

 
但今天,除了天馬行空的暢想,還是要回到當下看人工智能應用情況以及其帶來的信息安全問題。

 
5月16日,第二屆世界智能大會拉開帷幕,啟明星辰CEO嚴望佳在智能科技與網絡安全論壇中以《雙刃之劍:信息安全與人工智能》為主題演講。
 



前些年可在人機對話中自我學習的人工智能軟件“微軟小冰”被玩壞,停止服務;這兩年大火的特斯拉汽車的自動駕駛技術,在一次次安全事故中降溫。

 

“人工智能將引發安全挑戰。面對即將到來的智能時代,我們在安全方面尚未做好準備?!?/strong>

 
首先,AI運算結果是由數據、算法、算力這“三要素”相加所得的結果,但現在“三要素”本身存在缺失,會導致最終運算結果的判斷失誤。

 
其次,非法的黑客攻擊大幅上升。利用算法缺陷使系統產生誤判,可攻擊算法,通過遠程下發惡意指令,可攻擊設備。

 
還有隱私的泄露,越來越多的智能化服務依賴用戶畫像,用戶面臨隱私泄露風險,企業面臨合規性挑戰。

 
以及對技術的惡意使用。人工智能本身是中性的技術,可以造福人類,也存在被惡意使用、危害人類的風險。

 

“人工智能與安全是相互促進的關系,兩者協同配合才能構建和諧智能+安全生態?!?/strong>

 
安全促進人工智能的發展。數據方面,增加數據防泄密、敏感數據保護;算法方面,提出逃逸對抗和提升魯棒性;應用層面,建立安全隔離和白名單機制;AI軟件,漏洞挖掘與修復。

 
人工智能促進安全的發展。人工智能逐漸成為安全的共性基礎技術之一,將人工智能技術放到安全產品、服務與解決方案中,將大大提升安全分析的能力和效率。
 
“啟明星辰自成立起,經歷了不同階段的跨越式自我升華,去年開始,我們邁入三個I階段,其中一個就是安全的智能(Intelligence)”
 
—I3階段—
安全獨立運營(Independency)
安全的互聯(Interconnect)
安全的智能(Intelligence)
 
啟明星辰集團已將人工智能檢測技術、人工智能大數據分析技術等技術不斷應用到產品和解決方案中,已獲得大量的應用案例、經驗和集團客戶的一致好評。
 
從現在到未來,集團會持續發揮“安全能量”,直面智能時代的網絡安全挑戰,讓人工智能技術更加安全,讓應用人工智能技術的安全產品更高效,為國家、為客戶全面提升安全能力。