雖然人工智能攪動了網絡安全領域的一池春水，但是應該理性看待人工智能在應對網絡安全方面的優缺點，不能指望全靠人工智能來包打天下。人工智能在應對網絡安全問題時，也有較強的局限性。這一方面受限於人工智能算法本身的能力，因為傳統的機器學習技術依賴特徵提取，而算法的效果和性能又依賴識別和提取特徵的準確性。深度學習具有在高維數據中自動提取特徵的能力，同時面臨持續學習、數據飢餓、可解釋性等問題。另一方面，機器學習、特別是深度學習過分依賴數據，但在惡意代碼檢測、軟件漏洞挖掘等領域，目前仍然存在數據收集困難的問題，缺少較好的數據集用於訓練，影響對相關領域的研究。人工智能嚴重依賴於耗費計算資源，複雜的深度學習網絡需要同時計算成百上千萬次的計算，需要強大的人工智能芯片計算力的支撐。另外，人工智能易於忽視或者拋棄人類專家在網絡安全領域的知識和經驗積累，對網絡安全的複雜應用場景考慮不足，對於已知威脅的檢測效率遠低於傳統的精確特徵識別方法。雖然使用神經網絡和深度學習等算法，能夠較好地識別出未知攻擊威脅風險，達到「知其然」的目的，但是這些算法通常無法揭示產生這種安全風險的基本機理，也就是「不知其所以然」，從而為從源頭防禦這種攻擊風險帶來極大障礙。人工智能技術的蓬勃發展，為網絡安全攻防帶來的不僅有機遇，也有挑戰。人工智能在應對網絡安全問題時，有時甚至會展現出脆弱的一面。一個真實環境中的人工智能系統，會面臨數據安全、模型、算法安全、實現安全等多方面的安全威脅。在數據安全方面，在數據收集與標註時出現錯誤或注入惡意數據，將導致數據污染攻擊；在模型、算法安全方面，針對人工智能算法存在黑盒和白盒對抗樣本攻擊，可導致識別系統出現混亂；在實現安全方面，除了人工智能系統本身的代碼實現，其所基於的人工智能框架以及所依賴的第三方軟件庫中軟件實現中的漏洞，也都可能導致嚴重安全問題。人工智能對現有網絡安全格局的影響，離不開算法、數據和計算能力 3 個方面，其容易遭受攻擊的弱點也來自於此。對於防範人工智能的脆弱性所帶來的安全風險，首先，要從體系架構、系統算法容錯容侵設計、漏洞檢測和修復、安全配置等方面來增強人工智能系統自身的安全性；其次，要用其所長，儘量減小其暴露給外界的潛在攻擊面；最後，要構建網絡空間安全綜合防禦體系，從安全技術和安全管理等層面來協同防範安全攻擊，間接減緩攻擊者直接針對人工智能系統發起攻擊以及攻擊成功的可能性；在數據獲取過程中，要加強對數據來源的控制與過濾，在一定程度上保證數據安全可靠；在數據傳輸過程中，要使用更加安全的傳輸協議與加密算法；在人工智能系統的實現中，要保證代碼質量並進行完善的測試，此外，還要及時更新或修補框架或依賴庫中存在的漏洞等。人工智能技術能有效利用網絡空間中存在大量的流量、日誌等數據，在挖掘海量數據的特徵和關聯關係方面有得天獨厚的優勢，因此，可以預見，人工智能技術將在網絡安全領域發揮越來越重要的作用。後續國網湖南電力也將就如何將人工智能技術更好地應用於入侵檢測、惡意代碼分析、自動化攻防等領域持續開展研究，提升我國關鍵基礎設施的網絡安全防護水平。（本文刊登於《中國信息安全》雜誌2021年第6期）
留言列表
留言列表