深度學習理論及實戰（MATLAB版·第2版）

趙小川，博士，高級工程師。科技部、北京市科委項目評審專家組成員。《Robotica》、《IEEE Transactions On Biomedical Engineering》等期刊的審稿人。主編了《MATLAB數字圖像處理——程序實現與模塊化模擬》、《MATLAB數字圖像處理——能力提高與應用案例》、《MATLAB數字圖像處理——從模擬C／C++代碼自動生成》等圖書。

 

目錄

 

 

 

 

 

 

 

第1章從“機器學習”講起

 

1.1走近“機器學習”

 

1.1.1什麼是“機器學習”

 

1.1.2機器學習的主要任務

 

1.1.3機器學習的分類

 

1.1.4什麼是“深度學習”

 

1.1.5機器學習的應用舉例

 

經驗分享： 對“智能”的理解

 

擴展閱讀： “人工智能”的發展

 

擴展閱讀： “人工智能”的最新發展——生成式AI大模型

 

1.2解讀“機器學習的過程”

 

1.2.1機器學習的過程

 

1.2.2機器學習中的數據集

 

1.2.3過擬合與欠擬合

 

經驗分享： “機器學習”與“雕刻時光”

 

經驗分享： 如何解決機器學習中的“過猶不及”

 

1.3典型的機器學習算法——SVM

 

1.3.1“支持向量機”名字的由來

 

1.3.2SVM分類器的形式

 

1.3.3如何找到最佳分類線

 

1.3.4基於SVM的多分類問題

 

1.4思考與練習

 

第2章解析“人工神經網絡”

 

2.1神經元——人工神經網絡的基礎

 

2.1.1生物神經元

 

2.1.2人工神經元

 

2.1.3激活函數

 

2.2神經網絡的結構及工作原理

 

2.2.1神經網絡的結構組成

 

2.2.2神經網絡的工作原理

 

2.2.3一些常見的概念

 

擴展閱讀： 人工神經網絡發展簡史

 

經驗分享： 從仿生學的角度看神經網絡的局限性

 

2.3從數學角度來認識神經網絡

 

2.3.1本書中採用的符號及含義

 

2.3.2神經元的激活

 

2.3.3神經網絡的學習

 

2.3.4尋找損失函數最小值——梯度下降法

 

2.3.5誤差反向傳播

 

2.3.6基於誤差反向傳播的參數更新流程

 

經驗分享： 形象地理解梯度下降法

 

擴展閱讀： 隨機梯度下降優化算法

 

經驗分享： 形象地理解反向傳播算法

 

2.4如何基於神經網絡進行分類

 

2.4.1基於神經網絡實現二分類

 

2.4.2基於神經網絡實現多分類

 

擴展閱讀： 交叉熵

 

2.5思考與練習

 

第3章探索“捲積神經網絡”

 

3.1深入淺出話“捲積”

 

3.1.1捲積的運算過程

 

3.1.2捲積核對輸出結果的影響

 

3.1.3捲積運算在圖像特徵提取中的應用

 

擴展閱讀： 數字圖像處理的基礎知識

 

編程體驗1： 讀入一幅數字圖像並顯示

 

編程體驗2： 基於MATLAB實現二維圖像的滑動捲積

 

3.2解析“捲積神經網絡”

 

3.2.1從ImageNet 挑戰賽說起

 

3.2.2捲積神經網絡的結構

 

3.2.3捲積層的工作原理

 

3.2.4非線性激活函數的工作原理

 

3.2.5池化層的工作原理

 

3.2.6捲積神經網絡與全連接神經網絡的區別

 

3.2.7從仿生學角度看捲積神經網絡

 

擴展閱讀： 創建ImageNet挑戰賽初衷

 

3.3從數學的角度看捲積神經網絡

 

3.3.1本書中採用的符號及含義

 

3.3.2從數學角度看捲積神經網絡的工作過程

 

3.3.3如何求代價函數

 

3.3.4採用誤差反向傳播法確定捲積神經網絡的參數

 

3.4認識經典的“捲積神經網絡”

 

3.4.1解析LeNet5捲積神經網絡

 

3.4.2具有裏程碑意義的AlexNet

 

3.4.3VGG16捲積神經網絡的結構和參數

 

3.4.4捲積神經網絡為何會迅猛發展

 

3.5思考與練習

 

第4章基於MATLAB深度學習工具箱的實現與調試

 

4.1構造一個用於分類的捲積神經網絡

 

4.1.1實例需求

 

4.1.2開發環境

 

4.1.3開發步驟

 

4.1.4常用的構造捲積神經網絡的函數

 

4.1.5構造捲積神經網絡

 

4.1.6程序實現

 

擴展閱讀： 批量歸一化層的作用

 

歸納總結： 深度神經網絡訓練過程中常見超參的含義

 

編程體驗： 改變捲積神經網絡的結構

 

4.2訓練一個用於預測的捲積神經網絡

 

4.2.1實例需求

 

4.2.2開發步驟

 

4.2.3構建捲積神經網絡

 

4.2.4訓練捲積神經網絡

 

4.2.5程序實現

 

擴展閱讀1： 設置學習率的經驗與技巧

 

擴展閱讀2： 隨機失活方法(dropout)的作用

 

擴展閱讀3： 小批量方法（minibatch）的作用

 

編程體驗： 改變網絡訓練配置參數

 

4.3採用遷移學習進行物體識別

 

4.3.1站在巨人的肩膀上——遷移學習

 

4.3.2實例需求

 

4.3.3開發步驟

 

4.3.4可直接加載的網絡及方法

 

4.3.5如何對網絡結構和樣本進行微調

 

4.3.6函數解析

 

4.3.7程序實現及運行效果

 

擴展閱讀： 多角度看“遷移學習”

 

經驗分享： “遷移學習”中的微調技術

 

4.4採用深度網絡設計器實現捲積網絡設計

 

4.4.1什麼是深度網絡設計器

 

4.4.2如何打開深度網絡設計器

 

4.4.3需求實例

 

4.4.4在深度網絡設計器中構建捲積神經網絡

 

4.4.5對網絡進行訓練與驗證

 

4.4.6深度網絡設計器的檢驗功能

 

4.5採用深度網絡設計器實現遷移學習

 

4.5.1基於深度網絡設計器的網絡結構調整

 

4.5.2對網絡進行訓練

 

4.6如何顯示、分析捲積神經網絡

 

4.6.1如何查看訓練好的網絡的結構和信息

 

4.6.2如何畫出深度網絡的結構圖

 

4.6.3如何用analyzeNetwork函數查看與分析網絡

 

4.7如何加載深度學習工具箱可用的數據集

 

4.7.1如何加載MATLAB自帶的數據集

 

4.7.2如何加載自己製作的數據集

 

4.7.3如何加載網絡下載的數據集——以CIFAR10為例

 

4.7.4如何劃分訓練集與驗證集

 

編程體驗： 基於CIFAR10數據集訓練捲積神經網絡

 

4.8如何構造一個具有捷徑連接的捲積神經網絡

 

4.8.1本節用到的函數

 

4.8.2實例需求

 

4.8.3創建含有捷徑連接的捲積神經網絡的實現步驟

 

4.8.4程序實現

 

4.8.5對捷徑連接網絡進行結構檢查

 

編程體驗： 採用例程4.8.2所構建的捲積神經網絡進行圖像分類

 

4.9思考與練習

 

第5章應用案例深度解析

 

5.1基於捲積神經網絡的圖像分類

 

5.1.1什麼是圖像分類

 

5.1.2評價分類的指標

 

5.1.3基於深度學習和數據驅動的圖像分類

 

5.1.4傳統的圖像分類與基於深度學習的圖像分類的區別

 

5.1.5基於AlexNet的圖像分類

 

5.1.6基於GoogLeNet的圖像分類

 

5.1.7基於捲積神經網絡的圖像分類抗乾擾性分析

 

擴展閱讀： 電腦視覺的發展之路

 

編程體驗： 體驗GoogLeNet識別圖像的抗噪聲能力

 

擴展閱讀： AI“隱身衣”

 

5.2基於LeNet捲積神經網絡的交通燈識別

 

5.2.1實例需求

 

5.2.2捲積神經網絡設計

 

5.2.3加載交通燈數據集

 

5.2.4程序實現

 

5.3融合捲積神經網絡與支持向量機的圖像分類

 

5.3.1整體思路

 

5.3.2本節所用到的函數

 

5.3.3實現步驟與程序

 

編程體驗： 基於AlexNet和SVM的圖像分類

 

5.4基於RCNN的交通標誌檢測

 

5.4.1目標分類、檢測與分割

 

5.4.2目標檢測及其難點問題

 

5.4.3RCNN目標檢測算法的原理及實現過程

 

5.4.4實例需求

 

5.4.5實現步驟

 

5.4.6本節所用到的函數

 

5.4.7程序實現

 

5.4.8基於AlexNet遷移學習的RCNN實現

 

5.4.9基於Image Labeler的RCNN目標檢測器構建

 

5.5基於Video Labeler與RCNN的車輛檢測

 

5.5.1實例需求

 

5.5.2實現步驟

 

5.6基於YOLO v4的車輛目標檢測

 

5.6.1YOLO目標檢測原理概述

 

5.6.2實例需求

 

5.6.3實現步驟

 

5.6.4本節所用到的函數

 

5.6.5程序實現

 

5.7思考與練習

 

參考文獻