大模型AI安全解決方案：防禦策略全面解析
[英]約翰·索蒂羅普洛斯(John Sotiropoulos)著 李彥亮 黎千 譯
- 出版商: 清華大學
- 出版日期: 2026-06-01
- 售價: $714
- 語言: 簡體中文
- ISBN: 7302719527
- ISBN-13: 9787302719526
-
相關分類:
AI Coding
- 此書翻譯自: Adversarial AI Attacks, Mitigations, and Defense Strategies: A cybersecurity professional's guide to AI attacks, threat modeling, and securing AI with
下單後立即進貨 (約4週~6週)
商品描述
作者簡介
目錄大綱
目錄
第一篇 對抗 AI 概覽
第1章 AI入門 2
1.1 理解 AI 和 ML 2
1.2 ML 類型與生命周期 3
1.3 ML 中的關鍵算法 5
1.4 神經網絡和深度學習 6
1.5 ML 開發工具 7
1.6 總結 8
1.7 擴展閱讀 8
第2章 搭建攻防環境 9
2.1 技術要求 9
2.2 配置開發環境 10
2.3 動手實踐基礎 ML 基線方法 12
2.4 使用 CNN 開發目標 AI 服務 15
2.5 規模化 ML 開發 19
2.6 總結 21
第3章 安全與對抗AI 22
3.1 技術要求 22
3.2 安全基礎知識 23
3.3 加固對抗性測試環境 24
3.4 保護代碼和產物 33
3.5 使用對抗 AI 繞過安全防護 38
3.6 總結 40
第二篇 模型攻擊
第4章 投毒攻擊 42
4.1 投毒攻擊的基本原理 42
4.2 簡單投毒攻擊的實施方法 45
4.3 後門投毒攻擊機制 48
4.4 隱藏觸發器後門攻擊 54
4.5 幹凈標簽攻擊 55
4.6 高級投毒攻擊 56
4.7 防禦與應對措施 57
4.8 總結 61
第5章 模型木馬篡改與模型重編程 62
5.1 基於 pickle 序列化的後門註入 62
5.2 通過 Keras Lambda 層註入木馬 65
5.3 使用自定義層的木馬 70
5.4 神經負載註入 73
5.5 邊緣 AI 攻擊 76
5.6 模型劫持 80
5.7 總結 82
第6章 供應鏈攻擊與對抗AI 83
6.1 傳統供應鏈風險與 AI 83
6.2 AI 供應鏈風險 93
6.3 數據投毒 103
6.4 AI/ML 軟件物料清單 106
6.5 總結 106
第三篇 針對已部署 AI 的攻擊
第7章 針對已部署AI的規避攻擊 108
7.1 規避攻擊基礎原理 108
7.2 擾動與圖像規避攻擊技術 111
7.3 使用 TextAttack 和 BERT 進行 NLP 規避攻擊 121
7.4 通用對抗擾動 123
7.5 具有可遷移性的黑盒攻擊 125
7.6 防禦規避攻擊 126
7.7 總結 132
第8章 隱私攻擊之模型竊取 133
8.1 理解隱私攻擊 133
8.2 通過模型提取攻擊竊取模型 133
8.3 防禦和應對措施 145
8.4 總結 150
第9章 隱私攻擊之數據竊取 151
9.1 理解模型反演攻擊 151
9.2 模型反演攻擊類型 152
9.3 模型反演攻擊示例 158
9.4 理解推理攻擊 159
9.5 屬性推理攻擊 160
9.6 屬性推理攻擊示例 162
9.7 成員推理攻擊 163
9.8 總結 169
第 10 章 隱私保護 AI 170
10.1 隱私保護 ML 與 AI 170
10.2 簡單數據匿名化 171
10.3 高級匿名化 174
10.4 差分隱私 182
10.5 聯邦學習 184
10.6 拆分學習 185
10.7 隱私保護 ML 的高級加密方案 185
10.8 高級 ML 加密技術實踐 187
10.9 應用隱私保護 ML 技術 189
10.10 總結 190
第四篇 生成式 AI 與對抗攻擊
第11章 生成式AI前沿 192
11.1 生成式 AI 簡要介紹 192
11.2 使用 GAN 195
11.3 使用預訓練的 GAN 204
11.4 總結 207
第12章 GAN深度偽造與對抗攻擊 208
12.1 GAN 在深度偽造與檢測中的應用 208
12.2 GAN 在網絡攻擊與滲透測試中的應用 222
12.3 防禦和應對措施 232
12.4 總結 237
第13章 對抗AI大語言模型基礎 238
13.1 LLM 簡介 238
13.2 使用 LLM 開發 AI 應用 240
13.3 使用 Python 體驗 LLM 241
13.4 基於 LangChain 的智能對話 244
13.5 引入自有數據 245
13.6 LLM 引發的對抗 AI變革 247
13.7 總結 248
第14章 提示詞對抗攻擊 249
14.1 對抗輸入和提示詞註入 249
14.2 直接提示詞註入 250
14.3 基於梯度的自動化提示詞註入 260
14.4 自有數據的風險 261
14.5 間接提示詞註入 262
14.6 使用提示詞註入實現數據滲出 263
14.7 通過提示詞註入實現權限提升 265
14.8 通過提示詞註入實現 RCE 265
14.9 防禦和應對措施 266
14.10 總結 273
第15章 LLM投毒攻擊 274
15.1 RAG 中的嵌入向量投毒 274
15.2 針對 LLM 微調的投毒攻擊 289
15.3 總結 302
第16章 高級生成式AI攻擊場景 303
16.1 LLM 中的供應鏈攻擊 303
16.2 隱私攻擊與 LLM 312
16.3 LLM 模型反演與訓練數據提取攻擊 313
16.4 LLM 推理攻擊 314
16.5 基於次級模型的 LLM 模型復制技術 316
16.6 隱私攻擊的防禦與應對措施 317
16.7 總結 318
第五篇 安全設計 AI 與 MLSecOps
第17章 安全設計與可信AI 320
17.1 安全設計 AI 320
17.2 構建威脅分類體系 323
17.3 AI 威脅分類 325
17.4 AI 威脅分類映射 326
17.5 AI 威脅建模 331
17.6 威脅建模實踐 331
17.7 增強版 FoodieAI 威脅建模 332
17.8 風險評估與優先級排序 337
17.9 安全設計與實施 341
17.10 測試與驗證 347
17.11 前移策略：盡早落實安全措施 348
17.12 實時運營 348
17.13 超越安全：可信 AI 350
17.14 總結 351
第18章 基於MLSecOps的AI安全實踐 352
18.1 MLSecOps 的必要性 352
18.2 MLSecOps 2.0 框架 354
18.3 構建基礎 MLSecOps 平臺 359
18.4 MLSecOps 實戰 364
18.5 集成 MLSecOps 與 LLMOps 374
18.6 基於軟件物料清單的高級MLSecOps 376
18.7 總結 379
第19章 不斷成熟的AI安全 380
19.1 企業級 AI 安全挑戰 380
19.2 企業級 AI 安全基礎 382
19.3 基於企業安全的 AI 防護 383
19.4 運營級 AI 安全 384
19.5 循序漸進的企業級安全 385
19.6 總結 386
