人工智能：數據與模型安全

序
前言
常用符號表
第1 章人工智能與安全概述1
1.1 人工智能的定義1
1.2 人工智能的發展2
1.2.1 三起兩落3
1.2.2 重大突破5
1.3 人工智能安全8
1.3.1 資料與模型安全8
1.3.2 現實安全問題9
1.4 本章小結10
1.5 習題11
第2 章機器學習基礎12
2.1 基本概念12
2.2 學習範式17
2.2.1 有監督學習17
2.2.2 無監督學習18
2.2.3 強化學習20
2.2.4 其他範式21
2.3 損失函數26
2.3.1 分類損失26
2.3.2 單點回歸損失28
2.3.3 邊框損失 29
2.3.4 人臉辨識損失30
2.3.5 自監督學習損失 33
2.4最佳化方法34
2.4.1 梯度下降35
2.4.2 隨機梯度下降36
2.4.3 改進的隨機梯度下降36
2.5 本章小結39
2.6 習題39
第3 章人工智能安全基礎40
3.1 基本概念40
3.2 習題 43
3.2. 1 白盒威脅模型43
3.2.2 黑盒威脅模型44
3.2.3 灰盒威脅模型44
3.3 攻擊類型45
3.3.1 攻擊目的46
3.3.2 攻擊對象49
3.3.3 攻擊時機52
3.4 防禦類型54
3.4. 1 攻擊偵測54
3.4.2 資料保護55
3.4.3 模型增強56
3.5 本章小結58
3.6 習題58
第4 章資料安全：攻擊59
4.1 資料投毒59
4.1.1 標籤投毒攻擊60
4.1.2 線上投毒攻擊60
4.1.3 特徵空間攻擊61
4.1.4 雙層最佳化攻擊62
4.1.5 生成式攻擊65
4.1.6 差異化攻擊65
4.1.7 投毒預訓練大模型66
4.2 隱私攻擊67
4.2.1 成員推理攻擊67
4.2.2 屬性推理攻擊74
4.2.3 其他推理攻擊75
4.3 資料竊取75
4.3.1 黑盒資料竊取77
4.3.2 白盒資料竊取79
4.3.3 資料竊取大模型81
4.4 竄改與偽造82
4. .1 普通篡改83
4.4.2 深度偽造84
4.5 本章小結97
4.6 習題97
第5 章資料安全：防禦98
5.1 魯棒訓練98 
5.2.1 差分隱私概念100 
5.2.2 差異隱私中的應用103
5.3 聯邦學習106
5.3.1 聯邦學習概述106
5.3.2 橫向聯邦111
5.3.3 縱向聯邦113
5.3.4 隱私與安全116 
5.4 篡改與深偽檢測121 
5.4.1 普通檢測篡改122
5.5 本章小結128
5.6 習題128
第6 章模型安全：對抗攻擊129
6.1 白盒攻擊130
6.2 黑盒攻擊136
6.2.1 查詢攻擊136
6.2.2 遷移
攻擊140
6. 152
6.5 習題152
第7 章模型安全：對抗防禦153
7.1 對抗樣本成因153
7.1.1 高度非線性假說153 7.1.2
局部線性假說155
7.1.3 邊界傾斜假說156
7.1.4 高維流形假說
.5 無穩健特徵假說159
7.2 對抗樣本檢測161
7.2.1 二級分類法162
7.2.2 主成分分析法163
7.2.3 異常分佈檢測法164
7.2.4 預測不一致168
7.2.5 重建不一致性170
7.2.6 誘捕偵測法171
7.3 對抗訓練172
7.3.1 早期對抗訓練173 
7.3.2 PGD 對抗訓練176
7.3.3 TRADES 對抗訓練
樣本樣本區分對抗訓練180
7.3.5 資料增廣對抗訓練181
7.3.6 參數空間對抗訓練182
7.3.7 對抗訓練的加速183
7.3.8 大規模對抗訓練186
7.3.9 對抗蒸餾188
7.3.10 魯棒模型結構190
7.4 輸入空間防禦192
7.4.1 輸入去噪聲192
7.4.2 輸入壓縮192
7.4.3 像素偏轉192
7.4.4 輸入隨機化193
7.4.5 生成式防禦193
7.4.6 修復影像
認證 194.
7.5.1 基本概念194
7.5.2 認證小模型195
7.5.3 認證中模型197
7.5.4 認證大模型201
7.6 本章小結203
7.7 習題203
第8 章模型安全：後門攻擊204
8.1 輸入空間
19.空間攻擊210
8.3 特徵空間攻擊213
8.4 遷移學習攻擊214
8.5 聯邦學習攻擊