Python大模型基礎與智能應用（微課版）

黃恒秋，2011年7月-2014年6月就職於深圳市國泰安信息技術有限公司，從事CSMAR數據庫分析師、量化分析研究、軟件策劃及設計相關工作。2014年9月至今，廣西民族師範學院數學與計算機科學學院專任教師，高級實驗師、副教授，從事大數據分析與挖掘、金融數據挖掘、數學建模等相關課程教學工作。發表中文核心期刊論文3篇，其中EI源刊1篇。出版大數據分析相關專業教材3部，人民郵電出版社優秀作者，2024年廣西優秀教材獲得者，主持教育部產學研協同育人項目和省級教改項目3項，基於頭歌實踐教學平臺建設教材配套的在線智慧實驗課程3門。作為組織者和主要完成人榮獲廣西高等教育教學成果獎二等獎，指導學生參加互聯網+創新創業大賽、挑戰杯競賽、數據挖掘競賽、數學建模競賽、計算機設計大賽、人工智能競賽等獲省部級以上獎勵50余項。

第 1章 Python基礎

1.1　Python概述　1

1.2　Python安裝及啟動　1

1.2.1　Python安裝　1

1.2.2　Python啟動及界面認識　4

1.2.3　Python安裝擴展包　8

1.3　Python基本數據類型　9

1.3.1　數值的定義　9

1.3.2　字符串的定義　10

1.3.3　列表的定義　10

1.3.4　元組的定義　10

1.3.5　集合的定義　11

1.3.6　字典的定義　11

1.3.7　列表、元組、集合與字典之間的比較　12

1.4　Python相關的公有方法　12

1.4.1　索引　12

1.4.2　切片　13

1.4.3　長度　14

1.4.4　統計　14

1.4.5　成員身份　14

1.4.6　變量刪除　15

1.5　列表、元組與字符串方法　15

1.5.1　列表方法　15

1.5.2　元組方法　17

1.5.3　字符串方法　18

1.6　字典方法　19

1.7　條件語句　20

1.7.1　if…語句　20

1.7.2　if…else…語句　21

1.7.3　if…elif…else…語句　21

1.8　循環語句　21

1.8.1　while語句　22

1.8.2　for循環　22

1.9　函數　22

1.9.1　無返回值函數的定義與調用　23

1.9.2　有返回值函數的定義與調用　23

1.9.3　有多返回值函數的定義與調用　23

本章小結　24

本章練習　24

第　2章 科學計算與數據處理

2.1　Numpy簡介　26

2.2　Numpy數組創建　27

2.2.1　利用array()函數創建數組　27

2.2.2　利用內置函數創建數組　28

2.3　Numpy數組操作　29

2.3.1　數組尺寸　29

2.3.2　數組運算　30

2.3.3　數組切片　31

2.3.4　數組連接　33

2.3.5　數據存取　33

2.3.6　數組形態變換　34

2.3.7　數組排序與搜索　35

2.4　Pandas簡介　36

2.5　Pandas數據結構　37

2.5.1　序列　37

2.5.2　數據框　41

2.6　Pandas外部文件讀取　48

2.6.1　Excel文件讀取　48

2.6.2　TXT文件讀取　49

2.6.3　CSV文件讀取　50

2.7　Pandas常用函數　51

2.7.1　時間處理函數　51

2.7.2　數據框合並函數　52

2.7.3　數據框關聯函數　53

2.8　常見數據處理和計算任務　54

2.8.1　滾動計算　54

2.8.2　時間元素提取　55

2.8.3　映射與離散化　57

2.8.4　分組計算　59

本章小結　61

本章練習　61

　70

第3章　數據可視化　70

3.1　Matplotlib繪圖基礎　70

3.1.1　Matplotlib圖像構成　70

3.1.2　Matplotlib繪圖基本流程　70

3.1.3　中文字符顯示　72

3.1.4　坐標軸字符刻度標註　74

3.2　Matplotlib常用圖形繪制　75

3.2.1　散點圖　76

3.2.2　線性圖　77

3.2.3　柱狀圖　78

3.2.4　直方圖　79

3.2.5　餅圖　80

3.2.6　箱線圖　80

3.2.7　子圖　81

本章小結　84

本章練習　84

第4章　機器學習模型與實現

4.1　線性回歸　103

4.1.1　一元線性回歸　103

4.1.2　多元線性回歸　105

4.1.3　Python線性回歸應用舉例　107

4.2　邏輯回歸　109

4.2.1　邏輯回歸模型　109

4.2.2　Python邏輯回歸模型應用舉例　109

4.3　神經網絡　111

4.3.1　神經網絡模擬思想　111

4.3.2　神經網絡結構及數學模型　112

4.3.3　Python神經網絡分類應用舉例　113

4.3.4　Python神經網絡回歸應用舉例　114

4.4　支持向量機　115

4.4.1　支持向量機原理　116

4.4.2　Python支持向量機應用舉例　117

4.5　隨機森林算法　119

4.5.1　隨機森林算法的基本原理　119

4.5.2　隨機森林算法的Sklearn實現　119

4.5.3　Python隨機森林算法的應用舉例　120

4.6　梯度提升決策樹（GBDT）算法　121

4.6.1　GBDT算法的基本原理　121

4.6.2　GBDT算法的Sklearn實現　122

4.6.3　GBDT算法的應用舉例　123

本章小結　124

本章練習　124

第5章　深度學習模型與實現　126

5.1　深度學習簡介　126

5.2　深度學習框架簡介　127

5.2.　1 Pytorch框架　127

5.2.2　PaddlePaddle框架　127

5.2.3　TensorFlow框架　127

5.3　TensorFlow基礎　128

5.3.1　TensorFlow安裝　128

5.3.2　TensorFlow命令簡介　128

5.3.3　TensorFlow案例　131

5.4　多層神經網絡　134

5.4.1　多層神經網絡結構及數學模型　134

5.4.2　多層神經網絡分類問題應用舉例　136

5.4.3　多層神經網絡回歸問題應用舉例　140

5.5　卷積神經網絡　147

5.5.1　卷積層計算　148

5.5.2　池化層計算　150

5.5.3　全連接層計算　151

5.5.4　CNN應用案例　152

5.6　循環神經網絡　157

5.6.1　RNN結構及數學模型　157

5.6.2　長短期記憶網絡（LSTM）　159

5.6.3　RNN應用案例　160

本章小結　164

本章練習　164

第6章　大模型基礎　165

6.1　大模型基本認識　165

6.2　BERT大模型　166

6.2.1　BERT模型開發環境搭建：基於Python和TensorFlow　166

6.2.2　BERT基本概念　168

6.2.3　BERT輸入　169

6.2.4　BERT輸出　170

6.2.5　BERT特征提取與文本相似度計算　171

6.2.6　BERT下遊微調任務之分類　172

6.2.7　BERT下遊微調任務之問答　172

6.2.8　BERT下遊微調模型保存與加載　173

6.3　Chinese-CLIP多模態大模型　174

6.3.1　Chinese-CLIP模型開發環境搭建：基於Python和Pytorch　174

6.3.2　Chinese-CLIP的基本概念　175

6.3.3　Chinese-CLIP的輸入　176

6.3.4　Chinese-CLIP的輸出　177

6.3.5　Chinese-CLIP的數據集加載　177

6.3.6　Chinese-CLIP下遊微調任務之圖文匹配　178

6.3.7　Chinese-CLIP下遊微調任務之視覺問答　179

6.4　百度千帆大模型平臺　179

6.4.1　大模型的調用　180

6.4.2　大模型的微調訓練　181

6.4.3　Prompt工程　184

本章小結　186

本章練習　186

第7章　BERT大語言模型下遊任務應用案例　187

7.1　上市公司新聞標題情感分類　187

7.1.1　案例介紹　187

7.1.2　BERT模型輸入參數及分類標簽構造　188

7.1.3　BERT微調模型的訓練集、驗證集和測試集構造　189

7.1.4　BERT微調模型編譯、訓練與保存　190

7.1.5　BERT微調模型加載及應用　190

7.2　中文閱讀理解　191

7.2.1　案例介紹　191

7.2.2　數據解讀　191

7.2.3　數據解析　192

7.2.4　長文本截斷處理　194

7.2.5　答案在截斷文本中的開始位置和結束位置獲取　197

7.2.6　BERT輸入參數及開始位置、結束位置標簽構造　198

7.2.7　BERT微調模型的訓練集、驗證集和測試集構造　200

7.2.8　BERT微調模型編譯、訓練與保存　201

7.2.9　BERT微調模型加載及應用　202

本章小結　202

本章練習　203

第8章　BERT大語言模型融合微調應用案例　204

8.1　BERT與機器學習模型融合微調案例　205

8.1.1　數據預處理：以KUAKE-QIC數據集為例　205

8.1.2　BERT與機器學習模型的定義　211

8.1.3　BERT微調的超參數設置　212

8.1.4　BERT與機器學習模型的融合微調訓練　213

8.2　BERT與深度學習模型融合微調案例　216

8.2.1　BERT融合LSTM微調訓練　216

8.2.2　BERT融合CNN微調訓練　219

8.2.3　BERT融合MLP微調訓練　221

本章小結　223

本章練習　223

第9章　雲服務器微調訓練大模型應用案例　224

9.1　Bert大語言模型微調應用案例　224

9.1.1　AutoDL雲服務器資源租賃　224

9.1.2　開發環境搭建　226

9.1.3　數據和依賴文件上傳　227

9.1.4　微調訓練　228

9.1.5　微調模型應用　231

9.2　Chinese-CLIP多模態大模型微調應用案例　232

9.2.1　案例介紹　232

9.2.2　環境搭建　233

9.2.3　數據探索　233

9.2.4　數據處理　237

9.2.5　lmdb內存數據庫構建　241

9.2.6　模型微調　242

9.2.7　模型應用　245

本章小結　248

本章練習　248

第　10章 百度千帆大模型平臺應用案例　249

10.1　Python開發環境搭建　249

10.1.1　Python SDK安裝　249

10.1.2　獲取安全認證AK/SK鑒權　249

10.2　調用預置在線服務應用案例　250

10.2.1　文心系列大語言模型　250

10.2.2　平臺接入的開源多模態大模型：圖生文　251

10.2.3　平臺接入的開源多模態大模型：文生圖　252

10.3　基於百度千帆大模型平臺的模型精調　253

10.3.1　平臺基本認識　253

10.3.2　數據集準備　253

10.3.3　數據集創建　254

10.3.4　模型微調訓練　255

10.3.5　模型微調完成後部署　257

10.3.6　微調模型應用　259

10.4　百度飛漿AI studio調用千帆大模型應用案例　260

10.4.1　在線開發環境基本認識　260

10.4.2　百度千帆大模型Python SDK安裝　262

10.4.3　調用百度千帆大模型應用實例　262

本章小結　264

本章練習　264

第　11章 多模態大模型AI作畫與web應用案例　265

11.1　基於streamlit的web頁面設計　265

11.1.1　streamlit開發環境搭建　265

11.1.2　主體頁面設計　267

11.1.3　主體頁面程序實現　267

11.1.4　繪圖事件函數定義　269

11.1.5　本地實現　269

11.2　百度飛漿AI studio星河社區線上開發　271

11.2.1　創建項目　271

11.2.2　streamlit web應用部署　273

11.2.3　文件空間的文件路徑設置　275

11.2.4　應用發布　275

11.3　文件空間大文件的傳輸　276

11.3.1　Git工具下載　276

11.3.2　含大文件的AI studio星河社區項目創建　276

11.3.3　基於Git工具的文件傳輸　277

本章小結　279

本章練習　280

第　12章　大模型前沿應用動態