人工智能驅動的網絡安全和威脅情報——網絡自動化、智能決策和可解釋性

陳華平，清華大學國家卓越工程師學院創新領軍工程博士在讀，現任奇安信集團創始合夥人、集團副總裁，負責集團戰略研究、戰略情報、產業研究、戰略投融資、戰略生態合作、產業合作、產品管理、合資公司經營管理工作。網絡安全領域知名專家，長期從事網絡信息安全領域相關的技術研發、產品管理、戰略研究、戰略投融資管理、戰略合作管理工作。陳華平曾主持起草兩項國家標準制定，擁有發明專利4項目，其中2項已授權。陳華平作為技術負責人領導研發完全自主知識產權的下一代防火墻/NGFW，並大規模商用；作為技術負責人在國內**提出並實現基於零信任架構的身份與動態訪問控制系統，並大規模商用；主持起草《GB/T20281-2020信息安全技術防火墻安全技術要求和測試評價方法》國家標準，已於2022年5月1日正式實施；作為第一作者於2023年發布《自主可控網絡安全產業白皮書》。陳華平曾獲2023年第十一屆中國電子信息博覽會創新獎，入選2022年工信部大數據產業發展試點示範項目，經過中國電子學會科技成果鑒定；2022年教育部科技進步二等獎；2021年深圳市科技進步二等獎；2022獲得由通信世界全媒體授予的年度ICT產業創新人物。

目錄

第一部分準 備 工 作

第1章人工智能驅動的網絡安全和威脅情報概述

1.1引言

1.2網絡安全與威脅情報

1.2.1什麼是網絡安全

1.2.2什麼是威脅情報

1.3了解網絡安全中的人工智能

1.3.1人工智能的潛力

1.3.2人工智能的分類

1.3.3與主流技術的關系

1.4AI 信任、可解釋性及關鍵因素

1.4.1網絡安全中的傳統人工智能

1.4.2網絡安全中的可解釋人工智能

1.4.3建議： AI與XAI

1.5本書概述

1.6結論

參考文獻

第2章網絡安全背景知識： 術語、攻擊框架和安全生命周期

2.1引言

2.2理解關鍵術語

2.2.1網絡安全

2.2.2新興技術

2.3網絡殺傷鏈

2.3.1偵察

2.3.2武器化

2.3.3投送

2.3.4漏洞利用

2.3.5植入

2.3.6指揮與控制

2.3.7執行

2.4MITRE ATT&CK攻擊模型框架

2.4.1MITRE ATT&CK 矩陣

2.4.2MITRE ATT&CK策略

2.5網絡安全生命周期

2.5.1治理

2.5.2識別

2.5.3防護

2.5.4檢測

2.5.5響應

2.5.6恢復

2.6討論與經驗教訓

2.7結論

參考文獻

第二部分AI/XAI 方法和新興技術

第3章學習技術： 面向網絡安全的機器學習和深度學習

3.1引言

3.2多種類型的學習技術

3.2.1監督學習

3.2.2無監督學習

3.2.3半監督學習

3.2.4強化學習

3.2.5遷移學習

3.2.6自監督學習

3.2.7主動學習

3.2.8深度學習

3.2.9集成學習

3.2.10聯邦學習

3.3網絡安全中的學習任務和算法

3.3.1分類與回歸分析

3.3.2聚類分析

3.3.3基於規則的建模分析

3.3.4對抗性學習分析

3.3.5深度學習分析

3.4實際應用領域

3.5討論和經驗教訓

3.6結論

參考文獻

第4章通過網絡學習檢測異常和多重攻擊： 實驗分析

4.1引言

4.2探索安全數據集

4.2.1安全數據預處理

4.2.2特征排序與選擇

4.2.3機器學習算法

4.3實驗分析與討論

4.3.1安全特征和排名的影響

4.3.2檢測網絡異常的有效性分析

4.3.3檢測多重攻擊的有效性分析

4.3.4基於神經網絡的安全模型有效性分析

4.4結論

參考文獻

第5章網絡安全中的生成式人工智能和大語言建模

5.1生成式人工智能和大語言模型簡介

5.2生成式人工智能賦能網絡安全的發展潛力

5.3生成式人工智能方法

5.3.1生成對抗網絡

5.3.2基於Transformer的方法

5.3.3基於自動編碼器的方法

5.4生成式人工智能建模

5.4.1生成式語言模型

5.4.2生成式圖像模型

5.4.3生成式人工智能實施階段

5.5網絡安全大語言建模

5.5.1微調方法

5.5.2我們建議的CyberLLM框架

5.6挑戰與研究方向

5.7討論和經驗教訓

5.8結論

參考文獻

第6章網絡安全數據科學： 面向可解釋AI建模的高級分析、知識和規則發現

6.1引言

6.2分析類型和結果

6.2.1描述性分析

6.2.2診斷性分析

6.2.3預測性分析

6.2.4規範性分析

6.3理解數據科學建模

6.3.1理解業務問題

6.3.2理解數據

6.3.3數據預處理與探索

6.3.4機器學習建模與評估

6.3.5數據產品與自動化

6.4基於數據科學的知識發現過程

6.4.1網絡數據的知識發現過程

6.4.2網絡安全數據科學建模

6.5數據驅動的基於規則可解釋網絡安全建模

6.5.1數據收集模塊： 第一層

6.5.2數據準備和增強模塊： 第二層

6.5.3規則挖掘模塊： 第三層

6.5.4規則管理模塊： 第四層

6.5.5可解釋結果模塊： 第五層

6.6基於知識發現和數據驅動規則的真實網絡安全應用

6.6.1異常或入侵檢測

6.6.2攻擊分類或分級

6.6.3預測新出現的威脅和漏洞

6.6.4診斷分析和事故調查

6.6.5有效的緩解策略

6.6.6事件響應

6.7討論和經驗教訓

6.8結論

參考文獻

第三部分現實世界的應用領域與問題研究

第7章人工智能網絡安全在物聯網和智慧城市場景中的應用

7.1人工智能的物聯網和智慧城市應用簡介

7.2背景： 物聯網和智慧城市

7.2.1物聯網範式

7.2.2智慧城市領域應用

7.2.3物聯網攻擊面

7.3具有安全問題和人工智能潛力的物聯網系統架構

7.3.1感知層的安全問題和人工智能潛力

7.3.2網絡和數據通信層的安全問題和人工智能潛力

7.3.3中間件或支持層的安全問題和 AI 潛力

7.3.4應用層的安全問題和人工智能潛力

7.4人工智能安全建模的潛力和實際用例

7.5挑戰和研究方向

7.6討論和經驗教訓

7.7結論

參考文獻

第8章人工智能增強 ICS/OT 網絡安全

8.1ICS/OT網絡安全中的人工智能簡介

8.2OT組件和網絡安全問題

8.3為什麼在ICS/OT網絡安全中使用人工智能

8.4ICS/OT 環境中的網絡建模過程

8.5現實世界的ICS/OT應用領域

8.5.1智能電網安全防護

8.5.2制造企業

8.5.3石油和天然氣設施

8.5.4水務系統

8.5.5農業部門

8.5.6化工企業

8.6ICS/OT 環境中基於人工智能的網絡安全的挑戰和方向

8.7討論和經驗教訓

8.8結論

參考文獻

第9章人工智能在關鍵基礎設施保護和恢復領域的應用

9.1關鍵基礎設施簡介

9.2關鍵基礎設施部門及其對社會和經濟的影響

9.3基於人工智能的網絡安全在關鍵基礎設施中的潛力

9.4關鍵基礎設施中的網絡建模過程

9.5現實世界的網絡安全用例

9.5.1潛在攻擊和基於人工智能的網絡安全解決方案

9.5.2網絡安全領域特定攻擊示例

9.6關鍵基礎設施人工智能網絡安全面臨的挑戰

9.7討論和經驗教訓

9.8結論

參考文獻

第10章CyberAI： 人工智能變體的全面總結，可解釋和負責任的網絡安全人工智能

10.1引言

10.2網絡安全中的人工智能變體

10.2.1網絡安全中的分析型人工智能

10.2.2網絡安全中的功能型人工智能

10.2.3網絡安全中的交互型人工智能

10.2.4網絡安全中的文本型人工智能

10.2.5網絡安全中的視覺型人工智能

10.2.6網絡安全中的生成型人工智能

10.2.7網絡安全中的判斷型人工智能

10.2.8網絡安全中的混合型人工智能

10.3人工智能的透明度和問責機制

10.3.1網絡安全中的可解釋人工智能

10.3.2網絡安全中負責任的人工智能

10.3.3網絡安全中的人機合作

10.3.4對人工智能系統的建議： 包容和負責任的人工智能

10.4網絡安全中的人工智能關鍵技術： 總結

10.4.1機器學習

10.4.2深度學習

10.4.3數據科學建模和高級分析

10.4.4知識發現與規則挖掘

10.4.5語義和知識表示

10.4.6大語言建模

10.4.7多模態智能建模

10.5實際應用領域

10.5.1人工智能在信息物理系統安全中的應用

10.5.2人工智能在關鍵基礎設施安全中的應用

10.5.3人工智能在數字孿生安全中的應用

10.5.4人工智能在智慧城市和物聯網安全中的應用

10.5.5人工智能在元宇宙安全中的應用

10.6潛在用途和研究範圍

10.6.1人工智能的潛在用途範圍

10.6.2了解和減輕數據中毒風險

10.6.3有效應對動態和不斷演變的威脅形勢

10.6.4提升數據分析

10.6.5提升知識發現和細化規則挖掘

10.6.6提升大語言模型

10.6.7提升模型透明度和可解釋性

10.6.8確保人工智能安全解決方案中的數據是最新的

10.6.9確保人工智能安全解決方案的包容性和公平性

10.6.10建模前、建模中和建模後階段的研究範圍： 大局觀

10.7討論和經驗教訓

10.8結論

參考文獻