人工智能安全：攻防實戰

章 人工智能安全概述
節 人工智能的發展與安全挑戰
一、從算法到智能體
二、安全問題的本質
第二節 人工智能安全威脅全景
一、攻擊面分類
二、安全技術發展脈絡
第三節 人工智能安全治理與防禦
一、治理與標準的作用
二、技術防禦的核心思路概覽
三、構建防禦的知識基石
第二章 機器學習與深度學習
節 機器學習基本範式
一、監督學習、無監督學習與強化學習
二、模型訓練、驗證與測試流程
第二節 機器學習算法
一、回歸算法
二、分類算法
三、聚類算法
第三節 深度學習：神經網絡架構基礎
一、核心組件：神經元、激活函數、損失函數與優化器
二、前向傳播與反向傳播：梯度計算與模型 新的基本原理
三、常見網絡架構簡介：全連接網絡、卷積神經網絡、循環神經網絡
第四節 深度學習算法
一、前饋神經網絡
二、卷積神經網絡
三、循環神經網絡
第五節 模型優化與技術框架
一、深度模型優化機制
二、模型壓縮與加速
三、主流技術框架與生態體系
四、模型評估、調試與可解釋性
第三章 模型投毒
節 模型投毒攻擊概述
一、模型投毒攻擊的定義與特征
二、模型開發部署過程的攻擊面
第二節 模型投毒攻擊技術
一、基於任務類型的投毒技術
二、基於攻擊目標的投毒技術
三、基於後門的投毒技術
第三節 模型投毒檢測與防禦
一、投毒檢測技術
二、投毒防禦階段化策略
第四節 實戰案例
第四章 對抗樣本攻擊
節 對抗樣本攻擊概述
一、對抗樣本的定義與特征
二、對抗樣本攻擊的攻擊面
第二節 對抗樣本攻擊技術
一、基於攻擊方式的對抗樣本攻擊
二、基於攻擊目標的對抗樣本攻擊
三、基於攻擊任務的對抗樣本攻擊
第三節 對抗樣本的檢測與防禦
一、對抗樣本檢測技術
二、對抗樣本防禦策略
第四節 實戰案例
第五章 模型安全：隱私竊取與參數防護
節 模型資產與安全威脅
一、人工智能核心資產
二、隱私與產權安全挑戰
第二節 針對隱私與參數的攻擊技術
一、針對訓練數據的隱私竊取
二、針對模型參數的資產竊取
第三節 防禦與隱私計算技術
一、算法級隱私防禦
二、密碼學與協議級防禦
三、模型版權與完整性驗證
四、模型訪問控制與運行時防護
第四節 實戰案例
第六章 大模型安全：提示攻擊與對齊
節 大模型獨特安全挑戰
一、大模型基礎
二、大模型部署模式與安全考量
三、大模型應用架構與場景風險
四、大模型面臨宏觀安全挑戰
第二節 提示詞註入攻擊
一、提示詞工程基礎
二、提示詞註入攻擊的類型
三、提示詞註入攻擊的典型危害
第三節 防禦與對齊策略
一、前置防禦：輸入側安全
二、模型對齊：訓練與微調安全
三、後置防禦：輸出側安全
四、縱深防禦體系與安全治理
第四節 實戰案例
第七章 AI基礎設施與接口框架安全
節 推理框架與接口安全
一、本地大模型推理框架架構與攻擊面界定
二、推理服務接口的訪問控制
三、供應鏈汙染與依賴投毒
四、AI接口風險與The 2025 OWASP 0 Web Application Security Risks 映射
第二節 應用編排框架安全：LangChain
一、大模型編排框架架構與攻擊面界定
二、LangChain典型漏洞分析
三、編排層引入的新型風險：提示詞註入與工具調用濫用
四、大模型編排框架漏洞與OWASP 0 for LLM Applications映射
第三節 防禦技術
一、安全設計總則與基本假設
二、推理框架與接口層的安全控制措施
三、編排框架與代理層的安全控制措施
四、運行期監控與全生命周期安全治理
第四節 實戰案例
第八章 深度偽造與生成式濫用
節 深度偽造技術基礎與生成能力
一、視覺深度偽造
二、視頻深度偽造
三、音頻深度偽造
四、模態生成與跨模態一致性
第二節 深度偽造的檢測與防禦體系
一、威脅演變與防禦框架
二、基於多維特征的被動鑒別
三、對抗幹擾與可信溯源的主動防禦
第三節 實戰攻防覆現與安全治理展望
一、深度偽造圖像鑒別實戰
二、深度偽造視頻鑒別實戰
三、深度偽造治理案例
第九章 技術演進與未來展望
節 AI安全的技術演進
一、攻擊與防禦的演進博弈
二、新興挑戰與技術突破
三、生態系統的建設
第二節 未來展望
參考文獻