深度學習初學者指南 Deep Learning for Beginners A beginner's guide to getting up and running with deep learning from scratch using Python

本書分為三部分。
第1部分將幫助你快速理解從數據中學習、深度學習基本架構、
如何準備數據，以及深度學習中經常使用的基本概念。
第二部分將重點介紹無監督學習算法。從自編碼器開始，
然後轉向層數更深、規模更大的神經網絡模型。
第三部分介紹監督學習算法，你將掌握基本和高級深度學習模型的實現方法，
並能夠將這些模型用於分類、回歸以及從潛在空間生成數據等應用場合。

譯者序
序
前言
作者簡介
審校者簡介
第一部分 深度學習快速入門
第1章 機器學習概述  2
1.1 接觸ML生態系統  2
1.2 從數據中訓練ML算法  4
1.3 深度學習概述  5
1.3.1 神經元模型  5
1.3.2 感知機學習算法  6
1.3.3 淺層網絡  8
1.3.4 深度網絡  11
1.4 深度學習在現代社會中的重要性  13
1.5 小結  14
1.6 習題與答案  15
1.7 參考文獻  15

第2章 深度學習框架的搭建與概述  16
2.1 Colaboratory簡介  16
2.2 TensorFlow的簡介與安裝  17
2.2.1 安裝  17
2.2.2 擁有GPU支持的TensorFlow  18
2.2.3 TensorFlow背後的原理  18
2.3 Keras的簡介與安裝  19
2.3.1 安裝  19
2.3.2 Keras背後的原理  19
2.4 PyTorch簡介  21
2.5 Dopamine簡介  21
2.6 其他深度學習程序庫  23
2.6.1 Caffe  23
2.6.2 Theano  23
2.6.3 其他程序庫  23
2.7 小結  24
2.8 習題與答案  24
2.9 參考文獻  24

第3章 數據準備  26
3.1 二元數據與二元分類  27
3.1.1 克利夫蘭心髒病數據集的二元目標  27
3.1.2 二值化MINST數據集  30
3.2 分類數據與多個類別  33
3.2.1 將字符串標籤轉換成數字  34
3.2.2 將分類轉換成獨熱編碼  36
3.3 實值數據與單變量回歸  38
3.3.1 縮放到特定範圍的數值  38
3.3.2 標準化到零均值和單位方差  41
3.4 改變數據的分佈  42
3.5 數據增強  44
3.5.1 尺度縮放  44
3.5.2 添加噪聲  45
3.5.3 旋轉  45
3.5.4 其他增強手段  46
3.6 數據降維  46
3.6.1 監督算法  47
3.6.2 無監督技術  48
3.6.3 關於維度的數量  52
3.7 操縱數據的道德影響  53
3.8 小結  53
3.9 習題與答案  53
3.10 參考文獻  54

第4章 從數據中學習  55
4.1 學習的目的  55
4.1.1 分類問題  56
4.1.2 回歸問題  60
4.2 度量成功與錯誤  63
4.2.1 二元分類  64
4.2.2 多元分類  65
4.2.3 回歸分析矩陣  69
4.3 識別過擬合和泛化  70
4.3.1 擁有測試數據的情形  71
4.3.2 沒有測試數據的情形  72
4.4 機器學習背後的藝術  74
4.5 訓練深度學習算法的倫理意蘊  78
4.5.1 使用適當的模型性能度量指標  79
4.5.2 小心對待並驗證異常值  79
4.5.3 抽樣不足組的權重類  80
4.6 小結  80
4.7 習題與答案  81
4.8 參考文獻  81

第5章 訓練單個神經元  83
5.1 感知機模型  83
5.1.1 概念的可視化  83
5.1.2 張量運算  84
5.2 感知機學習算法  86
5.3 處理線性不可分數據的感知機  88
5.3.1 線性可分數據的收斂  88
5.3.2 線性不可分數據的收斂  91
5.4 小結  92
5.5 習題與答案  93
5.6 參考文獻  93

第6章 訓練多層神經元  94
6.1 MLP模型  94
6.2 最小化誤差  96
6.2.1 步驟1：初始化  99
6.2.2 步驟2：前向傳播  99
6.2.3 步驟3：計算損失  101
6.2.4 步驟4：反向傳播  101
6.3 尋找超參數  106
6.4 小結  109
6.5 習題與答案  109
6.6 參考文獻  110

第二部分 無監督深度學習
第7章 自編碼器  112
7.1 無監督學習簡介  112
7.2 編碼層與解碼層  113
7.2.1 編碼層  115
7.2.2 解碼層  116
7.2.3 損失函數  116
7.2.4 學習與測試  117
7.3 數據降維與可視化應用  119
7.3.1 MNIST數據的準備  120
7.3.2 MNIST的自編碼器  120
7.3.3 模型訓練與可視化  122
7.4 無監督學習的倫理意蘊  126
7.5 小結  127
7.6 習題與答案  127
7.7 參考文獻  128

第8章 深度自編碼器  129
8.1 深度信念網絡簡介  129
8.2 建立深度自編碼器  130
8.2.1 批歸一化  130
8.2.2 隨機失活  134
8.3 探索深度自編碼器的潛在空間  139
8.3.1 CIFAR-10  139
8.3.2 MNIST  146
8.4 小結  148
8.5 習題與答案  148
8.6 參考文獻  149

第9章 變分自編碼器  150
9.1 深度生成模型簡介  150
9.2 研究變分自編碼器模型  151
9.2.1 回顧心髒病數據集  153
9.2.2 重參數化技巧與採樣  154
9.2.3 學習編碼器中的後驗概率分佈參數  154
9.2.4 解碼器建模  156
9.2.5 最小化重構損失  156
9.2.6 訓練VAE模型  157
9.2.7 使用VAE生成數據  159
9.3 深度和淺層VAE在MNIST上的性能比較  161
9.3.1 淺層VAE模型  162
9.3.2 深度VAE模型  164
9.3.3 VAE模型去噪  168
9.4 生成模型的倫理意蘊  168
9.5 小結  169
9.6 習題與答案  169
9.7 參考文獻  170

第10章 受限玻爾茲曼機  171
10.1 RBM模型簡介  171
10.1.1 BM模型  172
10.1.2 RBM模型  172
10.1.3 伯努利RBM  173
10.2 使用RBM學習數據表示  174
10.3 比較RBM和AE  178
10.4 小結  180
10.5 習題與答案  181
10.6 參考文獻  181

第三部分 監督深度學習
第11章 深度與廣度神經網絡  184
11.1 廣度神經網絡  184
11.1.1 回顧深度學習  184
11.1.2 網絡層的廣度  185
11.1.3 CIFAR-10數據集  187
11.1.4 新的訓練工具  189
11.1.5 結果  192
11.2 密集深度神經網絡  195
11.2.1 構建並訓練模型  195
11.2.2 結果  198
11.3 稀疏深度神經網絡  199
11.3.1 構建並訓練稀疏網絡  200
11.3.2 結果  202
11.4 超參數調優  204
11.4.1 程序庫與參數  204
11.4.2 實現與結果  204
11.5 小結  206
11.6 習題與答案  207
11.7 參考文獻  207

第12章 卷積神經網絡  209
12.1 卷積神經網絡簡介  209
12.2 多維卷積  210
12.2.1 一維卷積  210
12.2.2 二維卷積  212
12.2.3 n維卷積  213
12.3 卷積層  214
12.3.1 Conv2D  214
12.3.2 layer+activation組合  216
12.4 池化策略  216
12.5 面向CIFAR-10的捲積神經網絡  217
12.5.1 實現  217
12.5.2 結果  222
12.5.3 濾波器的可視化  224
12.6 小結  226
12.7 習題與答案  226
12.8 參考文獻  226

第13章 循環神經網絡  227
13.1 循環神經網絡簡介  227
13.1.1 簡單RNN模型  228
13.1.2 嵌入層  229
13.1.3 詞嵌入與IMDb上的RNN  231
13.2 長短時記憶模型  237
13.3 序列到向量的模型  242
13.3.1 無監督模型  243
13.3.2 結果  245
13.4 向量到序列的模型  247
13.4.1 雙向LSTM  248
13.4.2 實現與結果  249
13.5 序列到序列的模型  252
13.6 倫理意蘊  253
13.7 小結  253
13.8 習題與答案  254
13.9 參考文獻  255

第14章 生成對抗網絡  256
14.1 對抗學習簡介  256
14.1.1 基於對抗的學習  257
14.1.2 GAN模型  258
14.2 訓練GAN模型  258
14.2.1 基於MLP的GAN模型  259
14.2.2 卷積GAN模型  264
14.3 比較GAN和VAE  270
14.4 GAN的倫理意蘊  272
14.5 小結  273
14.6 習題與答案  273
14.7 參考文獻  274

第15章 深度學習的未來  275
15.1 尋找深度學習的前沿話題  275
15.1.1 深度強化學習  275
15.1.2 自監督學習  278
15.1.3 系統2算法  278
15.2 從Packt獲取更多資源  279
15.2.1 強化學習  279
15.2.2 自監督學習  279
15.3 小結  279
15.4 參考文獻  280