面對(duì)計(jì)算機(jī)系統(tǒng)和網(wǎng)絡(luò)的缺陷和漏洞，黑客們找準(zhǔn)機(jī)會(huì)實(shí)施攻擊，白帽黑客則利用黑客技術(shù)來(lái)測(cè)試網(wǎng)絡(luò)和系統(tǒng)的性能以判定它們能夠承受入侵的強(qiáng)弱程度。短短幾年時(shí)間，人工智能已進(jìn)駐多個(gè)行業(yè)，落地?zé)o數(shù)場(chǎng)景。其中一些行業(yè)和場(chǎng)景已為大家所熟知，還有一些正在進(jìn)入我們的視野，在網(wǎng)絡(luò)安全領(lǐng)域，AI“白帽”正成為網(wǎng)絡(luò)安全工程師的得力助手。

據(jù)報(bào)道，近日美國(guó)市場(chǎng)調(diào)研公司CB Insights發(fā)布報(bào)告預(yù)測(cè)了2019年人工智能行業(yè)的發(fā)展趨勢(shì)，其中一個(gè)趨勢(shì)便是用人工智能發(fā)現(xiàn)網(wǎng)絡(luò)威脅。

正在賦能網(wǎng)絡(luò)安全

“人工智能技術(shù)的蓬勃發(fā)展，為網(wǎng)絡(luò)安全攻防帶來(lái)的，不僅有機(jī)遇，也有挑戰(zhàn)。”北京理工大學(xué)網(wǎng)絡(luò)攻防對(duì)抗技術(shù)研究所所長(zhǎng)閆懷志接受科技日?qǐng)?bào)記者采訪時(shí)說(shuō)。

先說(shuō)好的一面。360安全研究院鄒權(quán)臣博士告訴科技日?qǐng)?bào)記者，目前人工智能已經(jīng)應(yīng)用于惡意代碼檢測(cè)、惡意流量檢測(cè)、威脅情報(bào)收集、軟件漏洞挖掘等網(wǎng)絡(luò)安全領(lǐng)域。

“例如在惡意代碼檢測(cè)方面，人工智能通過(guò)對(duì)惡意程序的API調(diào)用序列、系統(tǒng)CPU利用率、收發(fā)的數(shù)據(jù)包等信息，自動(dòng)識(shí)別惡意代碼的特征，進(jìn)而判定分類(lèi)。”鄒權(quán)臣介紹，相比于傳統(tǒng)的基于動(dòng)靜態(tài)分析的特征檢測(cè)、啟發(fā)式檢測(cè)技術(shù)，人工智能可以大幅度提升檢測(cè)的準(zhǔn)確率。

360安全研究院研究員張德岳介紹，在軟件漏洞挖掘方面，采用人工智能技術(shù)從漏洞相關(guān)的數(shù)據(jù)中提取經(jīng)驗(yàn)和知識(shí)，并用訓(xùn)練好的模型提高漏洞挖掘的精度和效率，可以緩解當(dāng)前該領(lǐng)域研究遇到的一些瓶頸問(wèn)題，具體應(yīng)用場(chǎng)景包括漏洞程序篩選、源代碼漏洞點(diǎn)預(yù)測(cè)等。

“人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用日益廣泛，運(yùn)用人工智能賦能網(wǎng)絡(luò)空間安全，主要體現(xiàn)在主動(dòng)防御、威脅分析、策略生成、態(tài)勢(shì)感知、攻防對(duì)抗等諸多方面。”閆懷志說(shuō)，其中包括采用人工神經(jīng)網(wǎng)絡(luò)技術(shù)，來(lái)檢測(cè)入侵行為、蠕蟲(chóng)病毒等安全風(fēng)險(xiǎn)源;采用專(zhuān)家系統(tǒng)技術(shù)，進(jìn)行安全規(guī)劃、安全運(yùn)行中心管理等;此外人工智能方法還有助于網(wǎng)絡(luò)空間安全環(huán)境的治理，比如打擊網(wǎng)絡(luò)詐騙。

具備明顯“過(guò)人之處”

與傳統(tǒng)的應(yīng)對(duì)網(wǎng)絡(luò)安全的方式相比，人工智能確實(shí)展示了其“過(guò)人之處”。

在閆懷志看來(lái)，人工智能方法在解決人力所不及的安全大數(shù)據(jù)統(tǒng)計(jì)和抽取規(guī)律方面具備天然優(yōu)勢(shì)，它能夠全面提高威脅攻擊的識(shí)別、響應(yīng)和反制速度，提升風(fēng)險(xiǎn)防范的預(yù)見(jiàn)性和準(zhǔn)確性。特別是在異常行為檢測(cè)等應(yīng)用場(chǎng)景模糊的非精確識(shí)別和匹配方面，更是如此。

“人工智能針對(duì)未知威脅和攻擊的檢測(cè)也更出色。因?yàn)閭鹘y(tǒng)的特征匹配方法對(duì)未知威脅幾乎無(wú)能為力，而人工智能方法有時(shí)不需要先驗(yàn)知識(shí)，對(duì)未知威脅的檢測(cè)能力較強(qiáng)。”閆懷志說(shuō)。

不得不說(shuō)，人工智能系統(tǒng)還具備成本效益優(yōu)勢(shì)。閆懷志認(rèn)為，人工智能可以在第一時(shí)間發(fā)現(xiàn)和識(shí)別預(yù)防威脅，并立即啟動(dòng)應(yīng)急響應(yīng)，高效的智能檢測(cè)流程有助于減少人工參與、簡(jiǎn)化流程、降低成本、減小損失。

“傳統(tǒng)的應(yīng)對(duì)網(wǎng)絡(luò)安全的方法依賴(lài)于人工硬編碼定義、提取特征的方式完成相關(guān)任務(wù)，而人工智能可以直接對(duì)原始數(shù)據(jù)進(jìn)行訓(xùn)練，從大量的數(shù)據(jù)中提取特征，自動(dòng)完成分類(lèi)判定的工作。”張德岳說(shuō)，如此一來(lái)后者既可以提高網(wǎng)絡(luò)安全中預(yù)測(cè)、防范、檢測(cè)、銷(xiāo)控等各個(gè)風(fēng)險(xiǎn)環(huán)節(jié)的自動(dòng)化和智能化程度，又能提升響應(yīng)速度和判定的準(zhǔn)確率。

不能靠它包打天下

“雖然人工智能攪動(dòng)了網(wǎng)絡(luò)安全領(lǐng)域的一池春水，但是應(yīng)該理性看待人工智能在應(yīng)對(duì)網(wǎng)絡(luò)安全方面的優(yōu)缺點(diǎn)，不能指望全靠人工智能來(lái)包打天下。”閆懷志說(shuō)，人工智能在應(yīng)對(duì)網(wǎng)絡(luò)安全問(wèn)題時(shí)，也有較強(qiáng)的局限性。

鄒權(quán)臣分析，這一方面受限于人工智能算法本身的能力。因?yàn)閭鹘y(tǒng)的機(jī)器學(xué)習(xí)技術(shù)依賴(lài)特征提取，而算法的效果和性能又依賴(lài)識(shí)別和提取特征的準(zhǔn)確性。深度學(xué)習(xí)具有在高維數(shù)據(jù)中自動(dòng)提取特征的能力，同時(shí)面臨著持續(xù)學(xué)習(xí)、數(shù)據(jù)饑餓、可解釋性等問(wèn)題。

“另一方面機(jī)器學(xué)習(xí)、特別是深度學(xué)習(xí)過(guò)分依賴(lài)數(shù)據(jù)，但在惡意代碼檢測(cè)、軟件漏洞挖掘等領(lǐng)域，目前仍然存在數(shù)據(jù)收集困難的問(wèn)題，缺少較好的數(shù)據(jù)集用于訓(xùn)練，影響對(duì)相關(guān)領(lǐng)域的研究。”鄒權(quán)臣補(bǔ)充說(shuō)，另外人工智能?chē)?yán)重依賴(lài)于耗費(fèi)計(jì)算資源，復(fù)雜的深度學(xué)習(xí)網(wǎng)絡(luò)需要同時(shí)計(jì)算成百上千萬(wàn)次的計(jì)算，需要強(qiáng)大的人工智能芯片計(jì)算力的支撐。

閆懷志則從不同方面總結(jié)了人工智能的不足。比如，易于忽視或者拋棄人類(lèi)專(zhuān)家在網(wǎng)絡(luò)安全領(lǐng)域的知識(shí)和經(jīng)驗(yàn)積累，對(duì)網(wǎng)絡(luò)安全的復(fù)雜應(yīng)用場(chǎng)景考慮不足，對(duì)于已知威脅的檢測(cè)效率遠(yuǎn)低于傳統(tǒng)的精確特征識(shí)別方法等。

“使用神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等算法，能夠較好地識(shí)別出未知攻擊威脅風(fēng)險(xiǎn)，達(dá)到‘知其然’的目的，但是這些算法通常無(wú)法揭示產(chǎn)生這種安全風(fēng)險(xiǎn)的基本機(jī)理，也就是‘不知其所以然’，從而為從源頭防御這種攻擊風(fēng)險(xiǎn)帶來(lái)極大障礙。”閆懷志說(shuō)。

脆弱面帶來(lái)安全風(fēng)險(xiǎn)

人工智能在應(yīng)對(duì)網(wǎng)絡(luò)安全問(wèn)題時(shí)，有時(shí)甚至?xí)宫F(xiàn)出脆弱的一面。

“一個(gè)真實(shí)環(huán)境中的人工智能系統(tǒng)，會(huì)面臨數(shù)據(jù)安全、模型/算法安全、實(shí)現(xiàn)安全等多方面的安全威脅。”張德岳告訴科技日?qǐng)?bào)記者。

張德岳舉例說(shuō)，在數(shù)據(jù)安全方面，在數(shù)據(jù)收集與標(biāo)注時(shí)出現(xiàn)錯(cuò)誤或注入惡意數(shù)據(jù)，將導(dǎo)致數(shù)據(jù)污染攻擊;在模型/算法安全方面，針對(duì)人工智能算法存在黑盒和白盒對(duì)抗樣本攻擊，可導(dǎo)致識(shí)別系統(tǒng)出現(xiàn)混亂;在實(shí)現(xiàn)安全方面，除了人工智能系統(tǒng)本身的代碼實(shí)現(xiàn)，其所基于的人工智能框架以及所依賴(lài)的第三方軟件庫(kù)中的軟件實(shí)現(xiàn)漏洞，也都可能導(dǎo)致嚴(yán)重安全問(wèn)題。

“人工智能對(duì)現(xiàn)有網(wǎng)絡(luò)安全格局的影響，離不開(kāi)算法、數(shù)據(jù)和計(jì)算能力3個(gè)方面，其容易遭受攻擊的弱點(diǎn)也來(lái)自于此。”閆懷志總結(jié)說(shuō)。

對(duì)于防范人工智能的脆弱性所帶來(lái)的安全風(fēng)險(xiǎn)，閆懷志指出：首先要從體系架構(gòu)、系統(tǒng)算法容錯(cuò)容侵設(shè)計(jì)、漏洞檢測(cè)和修復(fù)、安全配置等方面來(lái)增強(qiáng)人工智能系統(tǒng)自身的安全性;其次，要用其所長(zhǎng)，盡量減小其暴露給外界的潛在攻擊面;最后要構(gòu)建網(wǎng)絡(luò)空間安全綜合防御體系，從安全技術(shù)和安全管理等層面來(lái)協(xié)同防范安全攻擊，間接減緩攻擊者直接針對(duì)人工智能系統(tǒng)發(fā)起攻擊以及攻擊成功的可能性。

來(lái)自360安全研究院的專(zhuān)家也給出多個(gè)建議，其中包括：在數(shù)據(jù)獲取過(guò)程中，要加強(qiáng)對(duì)數(shù)據(jù)來(lái)源的控制與過(guò)濾，在一定程度上保證數(shù)據(jù)安全可靠;在數(shù)據(jù)傳輸過(guò)程中，要使用更加安全的傳輸協(xié)議與加密算法;在人工智能系統(tǒng)的實(shí)現(xiàn)中，要保證代碼質(zhì)量并進(jìn)行完善的測(cè)試，此外還要及時(shí)更新或修補(bǔ)框架或依賴(lài)庫(kù)中存在的漏洞等。