神經網絡與深度學習案例與實踐

隨著人工智能與各行各業的結合愈加緊密，人才的短缺將是一個長期挑戰，
未來需要越來越多的既懂AI技術又具備產業經驗的複合型AI人才。
一直以來，飛槳聯合學術界和產業界，持續探索人工智能產教融合，
形成了集人才培養、科技創新、學科建設為一體的綜合性產學合作創新方案，培養了大量AI人才。
本書即是產教融合的成果，其章節設計與邱錫鵬教授的著作
《神經網絡與深度學習》（蒲公英書）一一對應，案例代碼基於飛槳平台，簡潔易用，便於讀者理解和動手實踐。

飛槳教材編寫組是隸屬於北京百度網訊科技有限公司的虛擬業務組織，其所有權利和義務歸屬北京百度網訊科技有限公司所有。
邱錫鵬
復旦大學計算機學院教授，國家優青獲得者，於復旦大學獲得理學學士和理學博士學位。
主要從事自然語言處理、深度學習等方向的研究，發表CCF A/B類論文70餘篇，獲得ACL 2017傑出論文獎（CCF A類）、
CCL 2019很好論文獎，有4篇論文入選PaperDigest發布的IJCAI/ACL/EMNLP的最有影響力論文（各會議每年10篇）。
主持開發了開源框架FudanNLP和FastNLP，這兩個框架已被國內外數百家單位使用。
2015年入選首屆中國科協青年人才托舉工程，2018年獲錢偉長中文信息處理科學技術獎青年創新獎一等獎，
2020和2021年連續兩年入選由清華-中國工程院知識智能聯合研究中心發布的“AI 2000人工智能Q球Z具影響力提名學者”等。
培養的學生曾獲中國中文信息學會優博、中國人工智能學會優博、
上海市優博、微軟學者、百度獎學金等。飛槳教材編寫組成員包括：
安夢濤、畢然、遲愷、程軍、呂健、、劉其文、林天揚、馬艷軍、文燦、吳高升、吳蕾、汪慶輝、吳甜、徐彤彤、於佃海、張翰迪、張一超、張亞嫻

序
前言
第1章實踐基礎
1.1 如何運行本書的代碼
1.1.1 本地運行
1.1.2 代碼下載與使用方法
1.1.3 在線運行
1.2 張量
1.2.1 創建張量
1.2.2 張量的屬性
1.2.3 張量與Numpy數組轉換
1.2.4 張量的訪問
1.2.5 張量的運算
1.3 算子
1.3.1 算子定義
1.3.2 自動微分機制
1.3.3 預定義的算子
1.3.4 本書中實現的算子
1.3.5 本書中實現的優化器
1.4 本書中使用的數據集和實現的Dataset類
1.4.1 數據集
1.4.2 Dataset類
1.5 本書中實現的Runner類
1.6 小結
第2章機器學習概述
2.1 機器學習實踐五要素
2.1.1 數據
2.1.2 模型
2.1.3 學習準則
2.1.4 優化算法
2.1.5 評價指標
2.2 實現一個簡單的線性回歸模型
2.2.1 數據集構建
2.2.2 模型構建
2.2.3 損失函數
2.2.4 優化器
2.2.5 模型訓練
2.2.6 模型評價
2.3 多項式回歸
2.3.1 數據集構建：ToySin25
2.3.2 模型構建
2.3.3 模型訓練
2.3.4 模型評價
2.3.5 通過引入正則化項來緩解過擬合
2.4 構建Runner類
2.5 實踐：基於線性回歸的波士頓房價預測
2.5.1 數據處理
2.5.2 模型構建
2.5.3 完善Runner類：RunnerV1
2.5.4 模型訓練
2.5.5 模型評價
2.5.6 模型預測
2.6 小結
第3章線性分類
3.1 基於Logistic回歸的二分類任務
3.1.1 數據集構建
3.1.2 模型構建
3.1.3 損失函數
3.1.4 模型優化
3.1.5 評價指標
3.1.6 完善Runner類：RunnerV2
3.1.7 模型訓練
3.1.8 模型評價
3.2 基於Softmax回歸的多分類任務
3.2.1 數據集構建
3.2.2 模型構建
3.2.3 損失函數
第3章線性分類
3.1 基於Logistic回歸的二分類任務
3.1.1 數據集構建
3.1.2 模型構建
3.1.3 損失函數
3.1.4 模型優化
3.1.5 評價指標
3.1.6 完善Runner類：RunnerV2
3.1.7 模型訓練
3.1.8 模型評價
3.2 基於Softmax回歸的多分類任務
3.2.1 數據集構建
3.2.2 模型構建
3.2.3 損失函數
3.2.4 模型優化
3.2.5 模型訓練
3.2.6 模型評價
3.3 實踐：基於Softmax回歸完成鳶尾花分類任務
3.3.1 數據處理
3.3.2 模型構建
3.3.3 模型訓練
3.3.4 模型評價
3.3.5 模型預測
3.4 小結
第4章前饋神經網絡994.1神經元
4.1.1 淨活性值
4.1.2 激活函數
4.2 基於前饋神經網絡的二分類任務
4.2.1 數據集構建
4.2.2 模型構建
4.2.3 損失函數
4.2.4 模型優化
4.2.5 完善Runner類：RunnerV2
4.2.6 模型訓練
4.2.7 模型評價
4.3 自動梯度計算和預定義算子
4.3.1 利用預定義算子重新實現前饋神經網絡
4.3.2 完善Runner類：RunnerV2
4.3.3 模型訓練
4.3.4 模型評價
4.4 優化問題
4.4.1 參數初始化
4.4.2 梯度消失問題
4.4.3 死亡ReLU問題
4.5 實踐：基於前饋神經網絡完成鳶尾花分類任務
4.5.1 小批量梯度下降法
4.5.2 數據處理
4.5.3 模型構建
4.5.4 完善Runner類：RunnerV3
4.5.5 模型訓練
4.5.6 模型評價
4.5.7 模型預測
……