人工智能安全治理與技術

魏薇，博士，中國信息通信研究院安全所副所長，正高級工程師，研究生導師。在數據安全、人工智能安全、網絡安全等領域研究多年，多次牽頭國家和部委級研究課題或重大專項、牽頭撰寫多項國際國內和行業標準、主持多個國家級技術平臺建設，出版《人工智能安全》《網絡空間安全》等書籍、發表近20篇學術論文、牽頭20余項專利和軟件著作權，個人獲得中國通信學會“網絡與信息安全傑出人才獎”、中國通信標準化協會“標準制定突出貢獻獎”、工信部信息報送先進個人、重大活動保障成績突出個人等榮譽，研究課題和標準獲得國標委“中國標準創新貢獻獎”二等獎以及部委級科學技術獎勵一二三等獎，帶領集體獲得全國掃黃打非先進集體、全國婦聯巾幗文明崗、重大活動保障先進集體等榮譽，多次獲得國家部門感謝信。

第1章 人工智能安全緒論
1.1 人工智能概念及發展歷程
1.1.1 人工智能概念
1.1.2 人工智能三個學派
1.1.3 人工智能發展七階段
1.2 人工智能安全研究範圍
1.2.1 概述
1.2.2 人工智能自身安全
1.2.3 人工智能賦能網絡安全
1.3 人工智能安全與網絡空間安全
1.3.1 網絡空間安全定義
1.3.2 人工智能安全定義
1.3.3 兩者的區別與聯系
習題
第2章 國際人工智能安全治理
2.1 全球人工智能安全治理情況概述
2.1.1 實施國家戰略
2.1.2 加強政府監管
2.1.3 貫徹倫理準則
2.1.4 強化標準引導
2.2 主要國家人工智能安全治理相關戰略規劃
2.2.1 明確強調安全保障要求
2.2.2 推動出臺安全監管措施
2.2.3 出臺新人工智能戰略
2.3 主要國家人工智能安全治理相關法律法規
2.3.1 加強算法安全性監管
2.3.2 加強數據安全治理
2.3.3 出臺專項法律制度
2.3.4 加強重點領域立法
2.4 主要國家人工智能安全治理相關倫理準則
2.4.1 貫徹落實人工智能倫理準則
2.4.2 維護人工智能倫理價值觀
2.5 主要國家人工智能安全相關標準規範
2.5.1 ISO/IEC的標準研制
2.5.2 ITU-T的標準研制
2.5.3 ETSIT的標準研制
2.5.4 IEEE的標準研制
2.5.5 NIST的標準研制
習題
第3章 我國人工智能安全治理
3.1 我國人工智能治理情況概述
3.1.1 治理體系不斷完善
3.1.2 治理方式雙管齊下
3.1.3 治理思路雙線並行
3.2 我國人工智能戰略規劃
3.2.1 點狀治理階段（2013—2017年）
3.2.2 回應治理階段（2017—2020年）
3.2.3 集中治理階段（2020年至今）
3.3 我國人工智能法律法規
3.3.1 整體情況
3.3.2 算法治理
3.3.3 制度規範
3.3.4 地方政策
3.4 我國人工智能倫理治理
3.5 我國人工智能行政監管
3.5.1 算法備案制度
3.5.2 安全評估制度
3.6 我國人工智能標準規範
習題
第4章 人工智能安全治理框架
4.1 總體思路
4.1.1 框架範圍
4.1.2 治理原則
4.1.3 核心要素
4.2 人工智能安全治理框架
4.2.1 安全目標
4.2.2 安全屬性
4.2.3 治理手段
4.2.4 保護對象
4.2.5 安全措施
4.2.6 安全能力
習題
第5章 人工智能數據安全
5.1 訓練數據安全風險
5.1.1 訓練數據違規獲取
5.1.2 訓練數據包含違法不良內容
5.1.3 訓練數據投毒汙染
5.1.4 訓練數據質量低
5.1.5 訓練數據多樣性弱
5.1.6 訓練數據泄露
5.2 訓練數據安全保護措施
5.2.1 訓練數據合規獲取
5.2.2 不良訓練數據檢測
5.2.3 訓練數據投毒汙染檢測
5.2.4 低質量訓練數據檢測與處理
5.2.5 訓練數據多樣性檢測及增強
5.2.6 訓練數據中個人信息檢測和隱私保護
5.3 訓練數據安全保護技術
5.3.1 訓練數據投毒汙染檢測技術
5.3.2 違法不良訓練數據檢測技術
5.3.3 訓練數據泄露防範技術
習題
第6章 人工智能算法模型安全
6.1 算法模型安全風險
6.1.1 提示註入攻擊
6.1.2 魯棒性差
6.1.3 模型竊取攻擊
6.1.4 模型“幻覺”
6.1.5 偏見歧視
6.1.6 模型可解釋性差
6.2 算法模型安全保護措施
6.2.1 防範提示註入攻擊
6.2.2 優化模型魯棒性
6.2.3 防範模型竊取攻擊
6.2.4 緩解模型“幻覺”
6.2.5 減小模型偏見歧視
6.2.6 優化模型可解釋性
6.3 算法模型安全保護關鍵技術
6.3.1 算法魯棒性增強技術
6.3.2 算法可解釋性增強技術
6.3.3 算法公平性保障技術
6.3.4 模型“幻覺”緩解技術
6.3.5 模型竊取攻擊的防禦技術
習題
第7章 人工智能平臺安全
7.1 平臺安全風險
7.1.1 開發框架安全風險
7.1.2 大模型插件安全風險
7.2 平臺安全保護措施
7.2.1 開發框架安全保護
7.2.2 大模型插件安全保護
7.3 平臺安全保護技術
7.3.1 開發框架安全保護技術
7.3.2 大模型插件安全保護技術
習題
第8章 人工智能應用安全
8.1 應用安全風險
8.1.1 不良信息生成
8.1.2 濫用和惡意使用
8.1.3 系統安全漏洞
8.2 應用安全保護措施
8.2.1 應用安全管理
8.2.2 不良信息生成防範
8.2.3 濫用和惡意使用防範
8.2.4 系統安全加固
8.3 應用安全保護技術
8.3.1 不良信息生成防範
8.3.2 紅藍對抗
8.3.3 系統安全加固
習題
第9章 人工智能賦能網絡空間安全
9.1 網絡空間安全面臨的挑戰與機遇
9.1.1 概述
9.1.2 網絡空間安全面臨的挑戰
9.1.3 人工智能為