大模型 AI 安全解決方案：防禦策略全面解析

"約翰·索蒂羅普洛斯(John Sotiropoulos)長期從事安全架構與AI安全相關工作，兼具安全視角與工程實踐經驗。作者對AI系統安全問題的關註，不停留在理論分析層面，而是面向真實應用場景，強調可執行的安全方法與治理思路。李彥亮，畢業於北京航空航天大學計算機系，擁有20年IT互聯網工作經驗，先後就職於中國住房公積金管理中心、中國工商銀行、Oracle甲骨文公司等。歷任程序員、TeamLeader、項目經理、技術總監。對DevOps、網絡安全、滲透測試、雲計算、雲原生、網絡協議、系統運維有豐富的項目實戰經驗。黎幹，美團機器學習平臺高級工程師，專註推動業務的機器學習創新。主導搭建多場景大規模機器學習平臺，優化架構支撐外賣、酒店等業務高並發運轉，護航用戶使用體驗;搭建機器學習特征倉庫，賦能用戶畫像與個性化推薦。同時參與美團大模型研發落地，完善全流程應用體系，推動智能客服場景智能化升級。"

目錄

第一篇 對抗 AI 概覽

第1章 AI入門 2

1.1 理解 AI 和 ML 2

1.2 ML 類型與生命周期 3

1.3 ML 中的關鍵算法 5

1.4 神經網絡和深度學習 6

1.5 ML 開發工具 7

1.6 總結 8

1.7 擴展閱讀 8

第2章 搭建攻防環境 9

2.1 技術要求 9

2.2 配置開發環境 10

2.3 動手實踐基礎 ML 基線方法 12

2.4 使用 CNN 開發目標 AI 服務 15

2.5 規模化 ML 開發 19

2.6 總結 21

第3章 安全與對抗AI 22

3.1 技術要求 22

3.2 安全基礎知識 23

3.3 加固對抗性測試環境 24

3.4 保護代碼和產物 33

3.5 使用對抗 AI 繞過安全防護 38

3.6 總結 40

第二篇 模型攻擊

第4章 投毒攻擊 42

4.1 投毒攻擊的基本原理 42

4.2 簡單投毒攻擊的實施方法 45

4.3 後門投毒攻擊機制 48

4.4 隱藏觸發器後門攻擊 54

4.5 幹凈標簽攻擊 55

4.6 高級投毒攻擊 56

4.7 防禦與應對措施 57

4.8 總結 61

第5章 模型木馬篡改與模型重編程 62

5.1 基於 pickle 序列化的後門註入 62

5.2 通過 Keras Lambda 層註入木馬 65

5.3 使用自定義層的木馬 70

5.4 神經負載註入 73

5.5 邊緣 AI 攻擊 76

5.6 模型劫持 80

5.7 總結 82

第6章 供應鏈攻擊與對抗AI 83

6.1 傳統供應鏈風險與 AI 83

6.2 AI 供應鏈風險 93

6.3 數據投毒 103

6.4 AI/ML 軟件物料清單 106

6.5 總結 106

第三篇 針對已部署 AI 的攻擊

第7章 針對已部署AI的規避攻擊 108

7.1 規避攻擊基礎原理 108

7.2 擾動與圖像規避攻擊技術 111

7.3 使用 TextAttack 和 BERT 進行 NLP 規避攻擊 121

7.4 通用對抗擾動 123

7.5 具有可遷移性的黑盒攻擊 125

7.6 防禦規避攻擊 126

7.7 總結 132

第8章 隱私攻擊之模型竊取 133

8.1 理解隱私攻擊 133

8.2 通過模型提取攻擊竊取模型 133

8.3 防禦和應對措施 145

8.4 總結 150

第9章 隱私攻擊之數據竊取 151

9.1 理解模型反演攻擊 151

9.2 模型反演攻擊類型 152

9.3 模型反演攻擊示例 158

9.4 理解推理攻擊 159

9.5 屬性推理攻擊 160

9.6 屬性推理攻擊示例 162

9.7 成員推理攻擊 163

9.8 總結 169

第 10 章 隱私保護 AI 170

10.1 隱私保護 ML 與 AI 170

10.2 簡單數據匿名化 171

10.3 高級匿名化 174

10.4 差分隱私 182

10.5 聯邦學習 184

10.6 拆分學習 185

10.7 隱私保護 ML 的高級加密方案 185

10.8 高級 ML 加密技術實踐 187

10.9 應用隱私保護 ML 技術 189

10.10 總結 190

第四篇 生成式 AI 與對抗攻擊

第11章 生成式AI前沿 192

11.1 生成式 AI 簡要介紹 192

11.2 使用 GAN 195

11.3 使用預訓練的 GAN 204

11.4 總結 207

第12章 GAN深度偽造與對抗攻擊 208

12.1 GAN 在深度偽造與檢測中的應用 208

12.2 GAN 在網絡攻擊與滲透測試中的應用 222

12.3 防禦和應對措施 232

12.4 總結 237

第13章 對抗AI大語言模型基礎 238

13.1 LLM 簡介 238

13.2 使用 LLM 開發 AI 應用 240

13.3 使用 Python 體驗 LLM 241

13.4 基於 LangChain 的智能對話 244

13.5 引入自有數據 245

13.6 LLM 引發的對抗 AI變革 247

13.7 總結 248

第14章 提示詞對抗攻擊 249

14.1 對抗輸入和提示詞註入 249

14.2 直接提示詞註入 250

14.3 基於梯度的自動化提示詞註入 260

14.4 自有數據的風險 261

14.5 間接提示詞註入 262

14.6 使用提示詞註入實現數據滲出 263

14.7 通過提示詞註入實現權限提升 265

14.8 通過提示詞註入實現 RCE 265

14.9 防禦和應對措施 266

14.10 總結 273

第15章 LLM投毒攻擊 274

15.1 RAG 中的嵌入向量投毒 274

15.2 針對 LLM 微調的投毒攻擊 289

15.3 總結 302

第16章 高級生成式AI攻擊場景 303

16.1 LLM 中的供應鏈攻擊 303

16.2 隱私攻擊與 LLM 312

16.3 LLM 模型反演與訓練數據提取攻擊 313

16.4 LLM 推理攻擊 314

16.5 基於次級模型的 LLM 模型復制技術 316

16.6 隱私攻擊的防禦與應對措施 317

16.7 總結 318

第五篇 安全設計 AI 與 MLSecOps

 第17章 安全設計與可信AI 320

17.1 安全設計 AI 320

17.2 構建威脅分類體系 323

17.3 AI 威脅分類 325

17.4 AI 威脅分類映射 326

17.5 AI 威脅建模 331

17.6 威脅建模實踐 331

17.7 增強版 FoodieAI 威脅建模 332

17.8 風險評估與優先級排序 337

17.9 安全設計與實施 341

17.10 測試與驗證 347

17.11 前移策略：盡早落實安全措施 348

17.12 實時運營 348

17.13 超越安全：可信 AI 350

17.14 總結 351

第18章 基於MLSecOps的AI安全實踐 352

18.1 MLSecOps 的必要性 352

18.2 MLSecOps 2.0 框架 354

18.3 構建基礎 MLSecOps 平臺 359

18.4 MLSecOps 實戰 364

18.5 集成 MLSecOps 與 LLMOps 374

18.6 基於軟件物料清單的高級MLSecOps 376

18.7 總結 379

第19章 不斷成熟的AI安全 380

19.1 企業級 AI 安全挑戰 380

19.2 企業級 AI 安全基礎 382

19.3 基於企業安全的 AI 防護 383

19.4 運營級 AI 安全 384

19.5 循序漸進的企業級安全 385

19.6 總結 386