深度學習及應用

馬海平，工學博士，博士後，教授，碩士生導師，紹興文理學院學術委員會委員，浙江省高校中青年學科帶頭人，英國女王大學公派訪問學者，多次入選斯坦福大學世界排名前2%**科學家榜單，主要從事人工智能及應用，智能控制與信息處理研究。先後主持完成國家自然科學基金項目3項，省自然科學基金項目2項，全國重點實驗室開放課題1項，獲中國仿真學會優秀博士學位論文獎1項，中國發明協會發明創業成果獎三等獎1項，浙江省自然科學基金優秀論文獎1項。以第一作者出版英文專著1本，在IEEE系列國內外**期刊上發表SCI論文60余篇。現擔任中國人工智能學會自主無人系統專業委員會委員，中國仿真學會生命系統建模仿真專業委員會委員、智能仿真優化與調度專業委員會委員。

目錄

 

第1章緒論/1

1.1深度學習的背景1

1.1.1深度學習的基本概念1

1.1.2深度學習的發展史2

1.1.3深度學習的三要素6

1.2深度學習的框架8

1.2.1國外深度學習的框架8

1.2.2國內深度學習的框架11

1.3深度學習的研究內容12

1.3.1深度學習的網絡模型12

1.3.2深度學習的關鍵技術14

1.3.3模型評估與可解釋性15

1.4深度學習的研究領域16

1.4.1計算機視覺16

1.4.2自然語言處理18

1.4.3語音與音頻處理19

1.4.4金融風險評估20

1.4.5醫療診斷20

1.4.6自動駕駛22

1.4.7工業優化23

1.4.8科學計算24

1.5小結25

思考題25

第2章深度學習中的數學基礎/26

2.1深度學習中的線性代數26

2.1.1向量與矩陣26

2.1.2矩陣運算27

2.1.3仿射變換28

2.1.4矩陣範數28

2.1.5線性代數的應用292.2深度學習中的微積分29

2.2.1導數基礎30

2.2.2偏導數基礎31

2.2.3函數梯度31

2.2.4鏈式法則31

2.2.5微積分的應用32

2.3深度學習中的概率論33

2.3.1概率分布33

2.3.2多元高斯分布34

2.3.3貝葉斯定理35

2.3.4期望和方差35

2.3.5隨機過程36

2.3.6概率論的應用36

2.4深度學習中的信息論37

2.4.1信息量和熵37

2.4.2交叉熵38

2.4.3信息論的應用38

2.5小結39

思考題40

第3章人工神經網絡/41

3.1神經網絡的發展史41

3.2神經元與神經網絡42

3.2.1生物神經元結構42

3.2.2神經元數學模型43

3.2.3神經網絡的結構45

3.2.4神經網絡的學習45

3.3BP神經網絡46

3.3.1單層感知機的模型46

3.3.2BP神經網絡的結構47

3.3.3BP神經網絡的學習48

3.3.4BP神經網絡的特點50

3.4BP神經網絡的應用51

3.4.1故障診斷51

3.4.2PID控制器53

3.5徑向基函數網絡54

3.5.1徑向基函數的定義55

3.5.2RBF網絡的學習55

3.5.3RBF網絡的特點56

3.6Hopfield神經網絡56

3.6.1Hopfield神經網絡模型57

3.6.2Hopfield神經網絡的學習58

3.6.3Hopfield神經網絡的特點60

3.6.4Hopfield神經網絡的應用60

3.7隨機神經網絡62

3.7.1Boltzmann機的模型62

3.7.2Boltzmann機的應用63

3.8小結63

思考題64

第4章卷積神經網絡/65

4.1數字圖像的特征65

4.1.1圖像特征的概念65

4.1.2圖像特征的提取67

4.2卷積運算68

4.2.1卷積運算的概念68

4.2.2卷積運算的過程68

4.3CNN的結構72

4.3.1卷積層73

4.3.2池化層73

4.3.3非線性激活層74

4.3.4全連接層75

4.3.5歸一化指數層76

4.4CNN的訓練77

4.5CNN的特點78

4.6CNN的類型79

4.6.1VGG網絡79

4.6.2GoogLeNet網絡79

4.6.3ResNet網絡81

4.6.4DenseNet網絡81

4.7CNN的應用82

4.8小結84

思考題84

第5章循環神經網絡/86

5.1序列的特征86

5.1.1序列的概念86

5.1.2序列的意義87

5.2循環神經網絡的模型88

5.2.1RNN的結構88

5.2.2RNN的訓練89

5.2.3RNN的實現89

5.3LSTM神經網絡90

5.3.1LSTM的結構91

5.3.2LSTM的特點93

5.4GRU神經網絡94

5.4.1GRU的結構95

5.4.2GRU的特點98

5.5梯度消失和梯度爆炸98

5.6RNN的應用100

5.6.1文本生成101

5.6.2神經機器翻譯101

5.6.3情感分析102

5.6.4股票預測103

5.6.5語音處理103

5.6.6圖像描述104

5.7小結104

思考題105

第6章生成對抗網絡/106

6.1圖像空間的概述106

6.1.1圖像數據空間106

6.1.2圖像數據分布107

6.2生成對抗網絡的模型107

6.2.1GAN的結構107

6.2.2GAN的原理109

6.2.3GAN的訓練110

6.2.4GAN的本質111

6.2.5GAN的理論112

6.2.6GAN的特點114

6.3CGAN網絡114

6.3.1CGAN的特點114

6.3.2CGAN的結構115

6.3.3CGAN的原理115

6.3.4CGAN的訓練116

6.4CycleGAN網絡116

6.4.1CycleGAN的特點116

6.4.2CycleGAN的結構117

6.4.3CycleGAN的原理117

6.5GAN的應用119

6.5.1數據增強119

6.5.2圖像處理120

6.5.3語言處理122

6.5.4視頻處理122

6.6GAN的倫理挑戰123

6.7小結124

思考題125

第7章變分自編碼器/127

7.1自編碼器模型127

7.1.1自編碼器的結構127

7.1.2自編碼器的特點128

7.2變分自編碼器的模型129

7.2.1VAE的背景129

7.2.2VAE的結構130

7.2.3VAE的理論基礎132

7.2.4VAE的重參數化134

7.2.5VAE的訓練135

7.2.6VAE的特點137

7.3VAE的應用137

7.4小結140

思考題140

第8章Transformer網絡/142

8.1Transformer模型的發展史142

8.2Transformer模型的原理143

8.2.1Transformer模型的通用架構143

8.2.2EncoderDecoder結構143

8.3Transformer模型的編碼器146

8.3.1位置編碼146

8.3.2多頭自註意力機制149

8.3.3殘差連接與層歸一化155

8.3.4前饋神經網絡156

8.3.5編碼器總覽156

8.4Transformer模型的解碼器157

8.4.1掩碼多頭自註意力機制158

8.4.2多頭交叉註意力機制159

8.4.3線性層和Softmax層161

8.4.4解碼器總覽162

8.5Transformer的變體162

8.5.1LLM162

8.5.2BERT模型165

8.5.3GPT模型167

8.5.4預訓練微調技術168

8.5.5LLM幻覺問題169

8.6Transformer模型的應用170

8.6.1機器翻譯170

8.6.2文本摘要171

8.6.3問答系統173

8.6.4圖像分類174

8.7小結175

思考題176

第9章YOLO網絡/179

9.1目標檢測179

9.1.1目標檢測的概念179

9.1.2目標檢測的思想180

9.1.3目標檢測的算法180

9.1.4目標檢測的框架182

9.1.5YOLO發展史183

9.2初級版本YOLOv1185

9.2.1YOLOv1的檢測原理185

9.2.2YOLOv1的整體架構187

9.2.3YOLOv1的損失函數188

9.2.4YOLOv1的特點189

9.3經典版本YOLOv5190

9.3.1YOLOv5的輸入端190

9.3.2YOLOv5的主幹網絡191

9.3.3YOLOv5的頸部網絡192

9.3.4YOLOv5的檢測頭網絡192

9.3.5YOLOv5的特點194

9.4進階版本YOLOv12194

9.4.1YOLOv12的架構195

9.4.2YOLOv12的特點196

9.5YOLO網絡的應用197

9.5.1自動駕駛197

9.5.2安防監控197

9.5.3工業檢測199

9.5.4醫療影像201

9.6小結203

思考題204

第10章擴散模型網絡/206

10.1擴散模型的背景206

10.1.1擴散模型的思想206

10.1.2擴散模型的特點207

10.1.3擴散模型的原理208

10.2去噪擴散概率模型209

10.2.1DDPM的前向擴散過程209

10.2.2DDPM的反向擴散過程211

10.2.3DDPM的訓練過程214

10.2.4DDPM的網絡架構215

10.3穩定擴散模型216

10.3.1模型的整體架構217

10.3.2模型的訓練過程218

10.4擴散模型的變體219

10.4.1DALLE模型219

10.4.2Imagen模型221

10.5擴散模型的應用222

10.5.1圖像處理222

10.5.2多模態224

10.5.3自然語言處理225

10.5.4人工智能驅動的科學研究226

10.6小結227

思考題228

第11章知識蒸餾網絡/229

11.1知識蒸餾技術229

11.1.1知識蒸餾的背景229

11.1.2知識蒸餾的基本框架231

11.1.3知識蒸餾的工作原理232

11.2知識蒸餾的方式234

11.2.1離線蒸餾方法234

11.2.2在線蒸餾方法234

11.2.3自蒸餾方法234

11.3深度遷移學習235

11.3.1深度遷移學習的背景235

11.3.2深度遷移學習的原理236

11.3.3深度遷移學習的分類236

11.3.4遷移學習和知識蒸餾的異同點239

11.4知識蒸餾的應用240

11.4.1計算機視覺240

11.4.2自然語言處理240

11.4.3語音識別241

11.4.4推薦系統241

11.5小結242

思考題242

第12章深度學習性能評估/244

12.1判別網絡模型和生成網絡模型244

12.1.1判別網絡模型244

12.1.2生成網絡模型244

12.2模型評估和泛化能力246

12.2.1訓練誤差與測試誤差246

12.2.2模型的泛化能力247

12.2.3過擬合與欠擬合248

12.3消融實驗設計和指標250

12.3.1設計步驟251

12.3.2交叉驗證252

12.3.3通用參數255

12.3.4損失函數256

12.3.5優化器258

12.3.6評價指標259

12.4小結263

思考題264

附錄A深度學習環境配置和上機指南/266

附錄B深度學習實驗指導手冊/278

參考文獻/299