深度學習與大模型基礎（簡體書）

第1 章緒論
1. 1 深度學習的前世今生
1. 2 模型複雜度的提升
1. 3 深度學習的名人軼事
第2 章深度學習中的線性代數
2. 1 標量、 向量、矩陣與張量
2 . 2 矩陣的運算
2. 3 單位矩陣與逆矩陣
2. 4 線性相關、生成子空間與範數
2. 5 一些特殊類型的矩陣
2. 6 特徵分解
2. 7 奇異值分解
2.8 Moore-Penrose偽逆
2. 9 跡運算
2. 10 行列式
2. 11 例: 主成分分析
第3 章機率與信息論
3. 1 為什麼要使用機率
3. 2 隨機變量
3. 3 機率分佈
3. 4 邊緣機率
3. 5 條件機率
3. 6 條件機率的鍊式法則
3. 7 條件獨立性
3. 8 期望值、方差和協方差
3. 9 常用機率分佈
3. 10 常用函數及性質
3. 11 貝葉斯規則
3. 12信息論中的交叉熵
3. 13 結構化機率模型
第4 章數值計算
4. 1 上溢與下溢
4. 2 病態條件
4. 3 基於梯度的最佳化方法
4. 4 約束最佳化
4. 5 實例:線性最小二乘
第5 章機器學習基礎
5. 1 什麼是機器學習演算法
5. 2 模型表現的度量
5. 3 過擬合與欠擬合
5. 4 超參數與交叉驗證
5. 5 最大似然估計
5. 6 什麼是隨機梯度下降
5. 7 貝葉斯統計
5. 8 監督學習演算法
5. 9 無監督學習演算法
5. 10 促使深度學習發展的挑戰
第6 章深度前饋網絡
6. 1 什麼是「前饋」
6. 2 隱藏層
6. 3 輸出單元
6. 4 萬能近似性質
6. 5 反向傳播
第7 章深度學習中的正則化
7. 1 參數範數懲罰
7. 2 資料集增強
7. 3 噪聲魯棒性
7. 4 半監督學習
7. 5 多任務學習
7. 6 提前終止
7.7 參數綁定和參數共享
7.8 稀疏表示
7. 9 Bagging 和其他集成方法
7.10 Dropout
7. 11 對抗訓練
第8 章深度模型中的最佳化
8. 1 學習和純最佳化有什麼不同
8. 2 小批量演算法
8. 3 基本演算法
8. 4 參數初始化策略
8. 5 自適應學習率演算法
8. 6 二階近似方法
8. 7 一些最佳化策略
第9 章捲積神經網絡
9. 1 捲積運算
9. 2 為什麼要使用捲積運算
9. 3 池化
9. 4 基本捲積函數的變體
9. 5 捲積核的初始化
第10 章 循環神經網絡
10. 1 展開計算圖
10. 2 循環神經網絡
10. 3 雙向RNN
10. 4 基於編碼-解碼的序列到序列架構
10. 5 深度循環網絡
10. 6 遞歸神經網絡
10. 7 長短期記憶網
10. 8 門控循環單元
10. 9 截斷梯度
第11 章實踐方法論
11. 1 設計流程
11. 2 更多的性能度量方法
11. 3 默認的基準模型
11. 4 要不要收集更多重資料
11. 5 超參數的調節
11. 6 模型調試的重要性
第12 章應用
12. 1 大規模深度學習
12. 2 電腦視覺中的預處理
12. 3 語音辨識
12. 4 自然語言處理
12. 5 推薦系統
12. 6 知識問答系統
第13 章初識大語言模型
13. 1 大語言模型的背景
13. 2 大語言模型的重要性
13. 3 大語言模型的應用場景
13. 4 大語言模型和傳統方法的差異
第14 章大語言模型原理
14. 1 Transformer 架構
14. 2 預訓練
14. 3 微調
14. 4 自回歸訓練
14. 5 掩碼語言模型
第15 章常見的大語言模型
15. 1 GPT 系列模型
15. 2 BERT
15. 3 XLNet
第16 章大語言模型應用———自然語言生成
16. 1 自動文本生成
16. 2 對話系統和聊天機器人
16 . 3 程式碼與技術文件生成
16. 4 創意內容生成
16. 5 國產優秀大語言模型———文心一言
16. 6 國產優秀大語言模型———訊飛星火認知大模型
後 記