神經網絡與深度學習

本書主要介紹神經網絡與深度學習的相關知識點，注重分析神經網絡與深度學習的基本概念、
基本原理和網絡結構，並對主要算法及其應用展開討論及闡述。
全書分為兩部分：基礎知識篇與網絡應用篇。
基礎知識篇介紹了神經網絡與深度學習的概念及發展，神經網絡與深度學習相關的數學基礎知識，
神經網絡、卷積神經網絡與自編碼器等基礎算法原理及其特點。
網絡應用篇對深度學習及計算機視覺領域的主要應用進行剖析，
從圖像分類、語義分割、目標檢測等方面對典型算法進行詳細介紹。
全書內容體系完整、層次分明，結合深度學習的最新技術進展，幫助讀者更深入地了解深度學習的算法原理及使用方法。
本書主要面向高校人工智能及相關專業的學生，也可供從事相關領域工作的工程技術人員參考使用。

前言
基礎知識篇
第1章緒論
1.1 人工智能相關概念
1.2 神經網絡算法發展及應用
1.2.1 神經網絡結構
1.2.2 神經網絡的發展及應用
1.3 深度學習算法的發展及應用
1.3.1 卷積神經網絡技術的發展
1.3.2 自編碼器的發展
習題
第2章神經網絡模型
2.1 神經網絡模型構成
2.1.1 神經元模型
2.1.2 感知器
2.2 BP神經網絡
2.2.1 BP神經網絡結構
2.2.2 改進的BP神經網絡
習題
第3章相關數學基礎知識
3.1 矩陣
3.1.1 基本概念
3.1.2 矩陣運算
3.2 範數
3.3 卷積運算
3.4 激活函數
3.4.1 線性激活函數
3.4.2 非線性激活函數
3.5 信息熵
習題
第4章卷積神經網絡
4.1 卷積神經網絡原理
4.2 LeNet
4.2.1 分層結構
4.2.2 反向傳播
4.3 A1exNet
4.3.1 網絡結構
4.3.2 網絡特點
習題
第5章卷積神經網絡擴展機制
5.1 注意力機制
5.1.1 注意力機制的分類
5.1.2 深度學習中的注意力機制
5.2 卷積變體
5.2.1 分組卷積
5.2.2 深度可分離卷積
5.2.3 膨脹卷積
5.2.4 全卷積網絡
5.2.5 可變形卷積
習題
第6章深度學習中涉及的相關網絡
6.1 循環神經網絡
6.1.1 網絡結構
6.1.2 RNN的類型
6.1.3 RNN反向傳播
6.2 LSTM
6.2.1 遺忘門
6.2.2 輸入門
6.2.3 細胞更新
6.2.4 輸出門
6.3 生成式對抗網絡
6.3.1 前向傳播過程
6.3.2 優化訓練過程
6.4 特徵金字塔網絡
6.4.1 基本概念
6.4.2 特徵金字塔的應用
習題
第7章自編碼器
7.1 相關概念
7.2 自編碼器原理
713 自編碼器的拓展網絡
7.3.1 稀疏自編碼器
7.3.2 棧式自編碼器
7.3.3 其他自編碼器
習題
第8章損失函數與優化算法
8.1 正則化與歸一化
8.1.1 參數範數懲罰
8.1.2 Dropout
8.1.3 歸一化
8.2 損失函數
8.2.1 交叉熵損失函數
8.2.2 其他損失函數
8.3 基於梯度的優化方法
8.3.1 基本算法
8.3.2 自適應學習率算法
習題
第9章深度學習中的相關問題
9.1 擬合
9.1.1 數據增強
9.1.2 正則化
9.2 梯度消失和梯度爆炸
9.3 卷積神經網絡的壓縮
9.3.1 核的稀疏化
9.3.2 剪枝
9.3.3 模型量化
9.3.4 模型蒸餾
習題
第10章深度學習中的性能指標
10.1 分類指標
10.2 指標曲線
10.2.1 ROC曲線
10.2.2 如何畫ROC曲線
10.2.3 AUC
10.3 分割指標
10.3.1 分割指標概述
10.3.2 常用的幾種分割指標
10.4 模型複雜度
10.4.1 參數量
10.4.2 計算量
習題
網絡應用篇
第11章圖像數據集
11.1 圖像分類數據集
11.2 語義分割數據集
11.3 細粒度圖像分類通用數據集
11.4 目標變化檢測數據集
第12章典型捲積神經網絡
12.1 GoogLeNet網絡
12.2 ResNet網絡
12.3 ShuffieNet網絡
12.4 Mobi1eNet網絡
12.4.1 網絡結構
12.4.2 Mobi1eNet V2
12.4.3 Mobi1eNet V3
第13章基於深度學習的語義分割算法
13.1 傳統語義分割算法
13.2 典型捲積語義分割算法
13.2.1 全卷積類語義分割網絡
13.2.2 金字塔類語義分割網絡
13.2.3 注意力機制類語義分割網絡
13.3 PSPNet程序分析與實現
13.3.1 數據集處理
13.3.2 主幹網搭建
13.3.3 PSPNet搭建
第14章基於深度學習的目標檢測
14.1 兩階段目標檢測算法
14.1.1 R-CNN算法框架
14.1.2 FasterR-CNN算法
14.2 端到端目標檢測方法
14.2.1 YOL0系列算法
14.2.2 FCOS
14.3 YOLO V3目標檢測程序分析與實現
14.3.1 數據讀取
14.3.2 模塊搭建
14.3.3 程序訓練與測試
第15章基於深度學習的細粒度圖像分類模型
15.1 細粒度圖像分類模型
15.1.1 基於高階編碼形式
15.1.2 基於網絡集成的方法
15.1.3 基於定位.識別的方法
15.2 基於定位.識別方法的程序分析與實現
15.2.1 數據集處理
15.2.2 主幹網絡搭建
15.21 3 WS.DAN網絡搭建
第16章基於深度學習的實例分割算法
16.1 典型實例分割算法
16.1.1 MaskR-CNN
16.1.2 Po1ar Mask
16.1.3 Yo1act