PyTorch深度學習與大語言模型實戰：基礎、算法、實現

第1章深度學習與大模型001
1.1從深度學習到大模型002
1.1.1從深度學習到大模型的發展史002
1.1.2深度學習和大模型的特點004
1.1.3深度學習和大模型算法分類004
1.1.4大模型的AIGC應用005
1.2Python簡介006
1.2.1安裝Python006
1.2.2Python常用庫008
1.3PyTorch簡介009
1.3.1安裝PyTorch009
1.3.2PyTorch核心模塊011
1.3.3PyTorch輔助庫012
1.4本章小結012
第2章PyTorch快速入門013
2.1張量014
2.1.1張量的數據類型014
2.1.2張量的生成015
2.1.3張量的操作019
2.1.4張量的數學運算025
2.2PyTorch中的自動微分030
2.3torch.nn模塊030
2.3.1容器030
2.3.2卷積層032
2.3.3池化層036
2.3.4填充層038
2.3.5激活函數層038
2.3.6歸一化層040
2.3.7循環層041
2.3.8全連接層042
2.3.9Transformer層042
2.4PyTorch中的數據操作和預處理043
2.4.1圖像數據043
2.4.2文本數據047
2.5PyTorch應用GPU訓練049
2.6本章小結051
第3章PyTorch深度神經網絡構建及訓練052
3.1梯度下降優化算法053
3.2PyTorch中的優化器055
3.3PyTorch中的損失函數058
3.4網絡欠擬合與過擬合059
3.4.1欠擬合與過擬合的表現形式059
3.4.2過擬合的防止060
3.5網絡參數初始化061
3.5.1常用的參數初始化方法061
3.5.2參數初始化應用實例062
3.6PyTorch中定義網絡的方式064
3.6.1數據準備064
3.6.2方式1：繼承Module的網絡定義與訓練064
3.6.3方式2：利用Sequential的網絡定義與訓練066
3.7PyTorch模型保存和加載方法067
3.8基於PyTorch的相關可視化工具067
3.8.1深度學習網絡結構的可視化069
3.8.2使用tensorboard進行可視化071
3.9本章小結073
第4章卷積神經網絡074
4.1經典的卷積神經網絡075
4.1.1LeNet-5075
4.1.2ALexNet076
4.1.3VGG 076
4.1.4GoogLeNet077
4.1.5TextCNN078
4.1.6ResNet 079
4.1.7DenseNet080
4.1.8MobileNet081
4.1.9ShuffleNet 083
4.1.10ConvNeXt084
4.2預訓練好的卷積神經網絡微調085
4.2.1準備VGG16網絡087
4.2.2準備網絡訓練需要的數據088
4.2.3微調網絡訓練與預測089
4.3TextCNN情感分類090
4.3.1文本數據預處理與探索090
4.3.2TextCNN網絡數據準備092
4.3.3TextCNN網絡構建094
4.3.4TextCNN網絡訓練與預測095
4.4使用預訓練好的卷積神經網絡097
4.4.1獲取中間特征進行可視化097
4.4.2可視化圖像的類激活熱力圖098
4.5ResNet網絡mini-ImageNet圖像分類100
4.5.1mini-ImageNet圖像數據準備101
4.5.2ResNet網絡構建101
4.5.3ResNet網絡訓練與預測104
4.6本章小結105
第5章循環神經網絡106
5.1常見的循環神經網絡107
5.1.1RNN107
5.1.2LSTM107
5.1.3GRU108
5.1.4BiRNN109
5.1.5Seq2Seq109
5.2RNN手寫字體分類110
5.2.1MNIST數據準備111
5.2.2 RNN分類器構建111
5.2.3RNN分類器訓練與預測112
5.3LSTM中文新聞分類114
5.3.1數據準備116
5.3.2LSTM網絡構建118
5.3.3LSTM網絡訓練118
5.3.4LSTM網絡預測119
5.4GRU中文新聞分類120
5.4.1GRU網絡構建120
5.4.2GRU網絡訓練與預測121
5.5本章小結122
第6章Transformer和Mamba網絡123
6.1Transformer系列網絡模型124
6.1.1註意力機制124
6.1.2Transformer126
6.1.3ViT126
6.1.4Swin-Transformer127
6.1.5MaxViT128
6.1.6DeiT129
6.1.7DETR129
6.1.8Deformable DETR131
6.1.9Mask2former131
6.2Mamba系列網絡模型132
6.2.1SSM133
6.2.2Mamba134
6.2.3Vision Mamba136
6.2.4VMamba137
6.2.5Mamba Vision138
6.2.6U-Mamba139
6.3ViT網絡mini-ImageNet圖像分類140
6.3.1mini-ImageNet數據準備140
6.3.2ViT網絡構建141
6.3.3ViT網絡訓練與預測143
6.4Mamba Vision網絡mini-ImageNet圖像分類144
6.4.1Mamba Vision網絡構建144
6.4.2Mamba Vision網絡訓練與預測152
6.5本章小結153
第7章圖像語義分割和目標檢測154
7.1語義分割網絡155
7.1.1經典的語義分割網絡155
7.1.2語義分割評價指標157
7.2目標檢測網絡158
7.2.1經典的目標檢測網絡158
7.2.2目標檢測評價指標162
7.3預訓練網絡語義分割和目標檢測163
7.3.1預訓練語義分割網絡應用163
7.3.2預訓練目標檢測網絡應用164
7.4U-Net語義分割實戰165
7.4.1數據準備166
7.4.2網絡構建168
7.4.3網絡訓練與測試170
7.5本章小結173
第8章圖像生成和風格遷移模型174
8.1圖像生成模型175
8.1.1自編碼模型175
8.1.2生成對抗網絡177
8.1.3擴散模型179
8.2風格遷移模型182
8.2.1普通風格遷移182
8.2.2快速風格遷移183
8.2.3圖像風格遷移評價指標184
8.3自動編碼器圖像重構實戰185
8.3.1手寫數字數據準備185
8.3.2自編碼網絡構建186
8.3.3自編碼網絡訓練186
8.3.4自編碼網絡數據重構187
8.4擴散模型圖像生成實戰188
8.4.1擴散模型數據準備188
8.4.2擴散模型網絡構建189
8.4.3擴散模型網絡訓練與圖像生成189
8.5快速風格遷移實戰190
8.5.1風格遷移網絡準備191
8.5.2風格遷移數據準備192
8.5.3網絡訓練與結果展示193
8.6本章小結196
第9章大語言模型197
9.1大語言模型簡介198
9.1.1大語言模型發展情況198
9.1.2大語言模型架構類型200
9.1.3大語言模型分詞方法201
9.1.4BERT模型202
9.1.5GPT模型204
9.1.6LLaMA模型206
9.1.7GLM模型208
9.1.8DeepSeek模型209
9.1.9Qwen模型211
9.1.10大語言模型評估方法211
9.2大語言模型微調215
9.2.1提示詞工程215
9.2.2檢索增強生成218
9.2.3參數高效微調221
9.3大語言模型應用實戰224
9.3.1LoRA微調大語言模型實戰224
9.3.2大語言模型RAG應用實戰227
9.4本章小結229
第10章多模態大模型230
10.1多模態大模型簡介231
10.1.1多模態大模型發展情況231
10.1.2多模態大語言模型架構234
10.1.3多模態大模型幻覺問題236
10.1.4多模態大模型評估236
10.1.5多模態大模型應用場景與發展趨勢237
10.2經典的多模態大模型238
10.2.1CLIP模型238
10.2.2BLIP系列模型239
10.2.3DALL·E系列模型241
10.2.4SAM系列模型243
10.2.5Gemini系列模型245
10.2.6Qwen-VL系列模型248
10.2.7GPT-4/5模型250
10.2.8視頻生成多模態大模型250
10.2.9語音生成多模態大模型252
10.3多模態大模型應用實戰252
10.3.1SAM圖像語義分割252
10.3.2Qwen2-VL圖像描述253
10.3.3Gemini文生圖254
10.4CLIP微調圖像分類254
10.4.1mini-ImageNet數據準備255
10.4.2導入CLIP模型255
10.4.3CLIP模型微調256
10.5本章小結257
參考文獻258