機器學習及應用（在線實驗+在線自測）

李克清，男，博士，教授，蘇州大學碩士生導師，中國礦業大學碩士生導師，中國計算機學會會員，江蘇省計算機學會監事。

第1章導論 
1.1引言 
1.2基本術語 
1.3概念學習與假設空間 
1.4歸納偏好 
1.5經驗誤差與過擬合 
1.6模型評估與選擇 
1.7性能度量 
1.8發展歷程 
1.9應用現狀 
習題1 
第2章Python初步 
2.1 Python概述 
2.2 NumPy庫介紹 
2.2.1 ndarray對象 
2.2.2 ufunc函數 
2.2.3常用函數庫 
2.3 Matplotlib庫介紹 
2.3.1快速繪製二維圖表 
2.3.2 Artist對象 
2.3.3配置屬性 
2.3.4繪製三維圖表 
2.4 SciPy庫函數 
2.4.1線性代數模塊 
2.4.2優化和擬合模塊 
2.4.3統計模塊 
2.4.4稀疏矩陣模塊 
2.5 scikit-learn庫函數 
2.5.1 sklearn.datasets 
2.5.2模型選擇與評價 
2.5.3 scikit-learn的機器學習 
習題2 
第3章決策樹 
3.1引言 
3.1.1決策樹的基本思想 
3.1.2決策樹的構造 
3.1.3決策樹的算法框架 
3.1.4信息增益 
3.2 ID3決策樹 
3.2.1 ID3算法 
3.2.2 ID3的實現 
3.3 C4.5決策樹 
3.3.1 C4.5算法 
3.3.2 C4.5的實現 
3.4 sklearn與回歸樹 
3.4.1回歸算法原理 
3.4.2最小剩餘方差法 
3.4.3剪枝策略 
3.4.4 sklearn實現 
習題3 
第4章神經網絡 
4.1引言 
4.1.1人工神經網絡的發展歷程 
4.1.2人工神經網絡的特點 
4.1.3人工神經網絡的分類 
4.2神經元模型 
4.3感知機與多層神經網絡 
4.3.1感知機 
4.3.2梯度下降法 
4.3.3隨機梯度下降法 
4.3.4多層神經網絡 
4.4誤差反向傳播算法 
4.4.1 BP神經網絡學習算法 
4.4.2 BP神經網絡實驗 
4.5玻耳茲曼機 
4.5.1 BM的拓撲結構 
4.5.2 BM的學習過程 
4.6綜合案例 
習題4 
第5章支持向量機 
5.1引言 
5.2線性分類 
5.2.1函數間隔與幾何間隔 
5.2. 2對偶問題 
5.3線性支持向量機 
5.4非線性支持向量機 
5.4.1核技巧 
5.4.2 sklearn SVC 
5.5序列最小優化算法 
5.6綜合案例 
習題5 
第6章貝葉斯分類器 
6.1引言 
6.2樸素貝葉斯分類 
6.2.1樸素貝葉斯算法 
6.2.2樸素貝葉斯分類算法 
6.2.3樸素貝葉斯分類算法的Python實現 
6.2.4 sklearn的樸素貝葉斯方法 
6.3極大似然估計 
6.3.1 EM算法 
6.3.2 EM算法步驟 
6.3.3三硬幣的EM求解 
6.3.4 sklearn的EM方法 
6.4貝葉斯網絡 
6.4.1貝葉斯網絡的構造和學習 
6.4.2貝葉斯網絡應用舉例 
習題6 
第7章集成學習 
7.1引言 
7.2 Voting 
7.3 Bagging 
7.4 Boosting 
7.4.1 AdaBoost法 
7.4 .2 Gradient Boosting 
7.5綜合案例 
習題7 
第8章聚類 
8.1引言 
8.1.1聚類的概念 
8.1.2典型應用 
8.1.3常見算法分類 
8.1.4聚類算法中存在的問題 
8.2距離計算 
8.2.1閔可夫斯基距離 
8.2.2歐幾裏得距離 
8.2.3曼哈頓距離 
8.2.4切比雪夫距離 
8.2.5皮爾遜相關係數 
8.2.6餘弦相似度 
8.2.7傑卡德相似係數 
8.3 k-means聚類 
8.3.1算法思想 
8.3.2輔助函數 
8.3.3編程實現k-means算法 
8.3.4 scikit-learn中的k-means方法 
8.3.5算法評價 
8.3.6算法改進k-means 
8.4密度聚類 
8.4.1密度聚類算法思想 
8.4.2 DBSCAN算法 
8.4.3密度峰值聚類 
8.5層次聚類 
8.5.1層次聚類思想 
8.5.2層次聚類實現 
8.6綜合實例 
8.6.1聚類算法性能比較 
8.6.2算法總結 
習題8 
第9章降維 
9.1引言 
9.1.1降維的概念 
9.1.2常見算法分類 
9.2 k-近鄰學習 
9.2.1算法實現 
9.2.2算法實例 
9.2.3算法關鍵 
9.3主成分分析 
9.3.1算法思想 
9.3.2算法實例 
9.4低維嵌入 
9.4.1算法原理 
9.4.2算法實例 
9.4. 3算法評價 
9.5奇異值分解 
9.5.1 SVD算法原理 
9.5.2 SVD算法及應用示例 
9.6綜合實例 
9.6.1 PCA實例 
9.6.2 SVD實例 
習題9 
第10章概率圖模型 
10.1引言 
10.2馬爾科夫過程 
10.2 .1基本概念 
10.2.2隱馬爾科夫模型 
10.3 Viterbi算法 
10.4綜合案例 
習題10 
第11章深度學習初步 
11.1引言 
11.2表示問題 
11.3學習問題 
11.4優化問題 
11.5認知問題 
11.6基本模型 
11.6.1自編碼器 
11.6.2受限玻耳茲曼機 
11.6.3捲積神經網絡 
11.7 TensorFlow的簡介與安裝 
11.7.1 Python3環境 
11.7.2安裝TensorFlow 
11.7.3驗證 
11.8 TensorFlow的基本使用 
1