人工智能在 2017 年中的表現(xiàn)是不平凡的，國務院關(guān)于印發(fā)《新一代人工智能發(fā)展規(guī)劃》的通知、工業(yè)和信息化部關(guān)于印發(fā)《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020）》的通知，明確我國新一代人工智能發(fā)展的指導思想、戰(zhàn)略目標、重點任務和重點支持行業(yè)、重點應用。業(yè)內(nèi)信息技術(shù)發(fā)展趨勢的指向標 Gartner 發(fā)布2017新興技術(shù)成熟度曲線，認為未來10年，人工智能將成為最具顛覆性的技術(shù)。DeepMind發(fā)布最新成果 AlphaGo Zero將 AlphaGo、Master 遠遠甩在身后，讓人工智能在大眾心中也留下了濃重的一筆。

AI 也攪動了安全行業(yè)的“一池春水”。不過，在啟明星辰集團助理總裁、核心研究院院長周濤看來，對AI 的一些誤解也可能讓人工智能攪亂網(wǎng)絡安全。以下內(nèi)容為周濤在北向峰會上的演講精要。

 

一、安全行業(yè)對人工智能理解的誤區(qū)

人工智能的前景很大，現(xiàn)在政策已開始推動，相關(guān)分析機構(gòu)的行業(yè)預測都給了市場信心，但在刨除火熱的概念，從應用場景的角度出發(fā)，業(yè)內(nèi)對人工智能的理解是存在一些誤區(qū)。

目前行業(yè)對人工智能理解上主要有三大類誤區(qū)，第一大誤區(qū)是認為人工智能等于深度學習，好像深度學習能夠一統(tǒng)江湖，而傳統(tǒng)機器學習應用不算人工智能。事實上深度學習并不適合所有的應用場景，深度學習只是人工智能領域分支之一。

第二大誤區(qū)——削足適履，放棄安全領域的經(jīng)驗積累，生搬 NLP、圖像識別領域的成功用例。但實際上攻防對抗會導致檢測對象的統(tǒng)計特征失效，NLP等領域算法完備性不強，與此同時深度學習的黑箱特性導致檢測結(jié)論可解釋性低。

 

對網(wǎng)絡安全應用環(huán)境的復雜性估計不足是第三大誤區(qū)，某些時候人們往往會以AlphaGo、圖片識別、機器翻譯等其他領域的成功經(jīng)驗，樂觀預測網(wǎng)絡安全領域的應用前景，而忽略了同圖片識別、機器翻譯等典型人工智能應用相比，網(wǎng)絡安全分析的人工智能應用環(huán)境復雜度更高。

二、如何在在安全業(yè)務中應用 AI

首先，要認清上限。以深度學習為例，其本質(zhì)上是一種基于統(tǒng)計的學習方法，可適用的場景是相對模糊、非精確匹配，比如垃圾郵件識別、惡意域名識別、異常行為檢測。相反像二進制級惡意代碼識別和數(shù)據(jù)包特征識別這類需精確匹配的場景就不太可能適用。

 

其次，了解局限。學習類算法對于判斷結(jié)果往往無法給出精確解釋，傳統(tǒng)特征匹配雖然對未知威脅幾乎沒有檢測能力，但對已知威脅的檢測結(jié)果的解釋性最強。深度學習對未知威脅的檢測能力較強，但檢測結(jié)果的可解釋性最差，因此不同的場景、不同的業(yè)務，要用適合的檢測方法。

 

最后，要跳出深度學習的束縛，考慮人工智能領域其他的技術(shù)流派。深度學習適合的是解決“知其然，不知其所以然”的問題，但現(xiàn)階段對于網(wǎng)絡攻擊，我們是可以通過了解攻擊手段，而了解如何預防的。即對于網(wǎng)絡安全分析，一旦“知其然”，就基本“知其所以然”。人工智能領域符號主義的技術(shù)流派，在網(wǎng)絡安全分析中的價值可能會更大。