大模型導論 (通識課版)

張玉宏，博士、副教授、高級大數據分析師，2009一2011年美國西北大學訪問學者，2019一2020年IUPUI高級訪問學者，中國計算機學會(CCF)高級會員、公益大使。主要研究方向包括人工智能、大數據與大模型，已出版《品味大數據》《深度學習之美》《人工智能極簡入門》等20余部科技暢銷書。

目錄

 

 

第1章緒論1

1.1什麼是大模型2

1.2人工智能與大模型3

1.2.1為何需要人工智能3

1.2.2重溫人工智能定義6

1.3判斷人工智能引發的3個思想實驗7

1.3.1圖靈測試7

1.3.2中文屋子與人工智能10

1.3.3億年機器人與人類智能13

1.4大模型獨特能力15

1.4.1湧現能力16

1.4.2思維鏈與慢思考18

1.4.3提示學習22

1.5感性認識大模型——AIGC23

1.5.1文本釋義24

1.5.2我問你答25

1.5.3摘要生成27

1.5.4語言翻譯28

1.5.5多模態交互28

1.5.6大模型催生軟件3.0時代31

1.6大模型的本質34

1.7苦澀的教訓36

1.8縮放定律38

1.9本章小結40

1.10思考與練習41

參考文獻42

第2章語言模型的哲理基礎43

2.1自然語言與人類智能43

2.1.1智人的語言43

2.1.2語言與智能45

2.1.3機器的語言47

2.1.4自然語言處理的任務48

2.2自然語言處理發展的兩個基本範式51

2.2.1理性主義52

2.2.2經驗主義54

2.3語言模型的基礎概念56

2.3.1語言模型的發展56

2.3.2自然語言處理的分布假設56

2.3.3語言模型中的詞元58

2.4統計語言模型63

2.4.1語言模型的定義63

2.4.2ngram語言模型64

2.5神經網絡語言模型67

2.5.1自適應語言模型68

2.5.2詞嵌入模型與相似度策略69

2.6預訓練語言模型74

2.6.1ELMo75

2.6.2Transformer76

2.6.3BERT77

2.6.4GPT178

2.7大語言模型79

2.7.1GPT2系列的發展與突破 79

2.7.2DeepSeek的創新與優化 81

2.7.3專家混合模型82

2.7.4大模型的哲學意義85

2.8本章小結87

2.9思考與練習88

參考文獻88

第3章神經網絡與深度學習89

3.1人工智能的兩個學派89

3.1.1符號主義89

3.1.2聯結主義91

3.2人工神經網絡的本質93

3.2.1人工神經網絡的生物學靈感93

3.2.2神經網絡的第一性原理95

3.3神經網絡的基礎要素97

3.4深度學習的積木——感知機98

3.5神經網絡的前向傳播100

3.6為何需要激活函數102

3.7多層神經網絡104

3.8神經網絡中的損失函數108

3.8.1平均絕對誤差109

3.8.2均方誤差損失109

3.8.3對數損失與二元交叉熵110

3.8.4交叉熵損失與負對數似然111

3.9神經網絡的訓練114

3.10深度學習116

3.10.1特征工程116

3.10.2構建特殊的網絡結構118

3.11卷積神經網絡120

3.11.1卷積神經網絡從何而來121

3.11.2卷積層124

3.11.3池化層126

3.11.4激活層128

3.11.5全連接層128

3.12深度學習中“層”的本質129

3.13本章小結131

3.14思考與練習131

參考文獻132

第4章深度序列模型133

4.1為何需要序列模型133

4.2RNN的工作原理135

4.2.1RNN的理論基礎135

4.2.2簡易循環神經網絡136

4.2.3雙向RNN138

4.3序列模型的應用140

4.3.1onetoone141

4.3.2onetomany142

4.3.3manytoone142

4.3.4manytomany143

4.4LSTM長短期記憶145

4.4.1LSTM往事146

4.4.2記憶加強版的神經元148

4.4.3結構簡化版的GRU153

4.5Seq2Seq框架155

4.5.1編碼器156

4.5.2解碼器157

4.6本章小結159

4.7思考與練習160

參考文獻161

第5章註意力機制與Transformer162

5.1註意力機制162

5.1.1關於註意力的一個著名實驗163

5.1.2人類視覺系統的啟示164

5.1.3神經網絡中的註意力機制166

5.2Transformer模型169

5.2.1註意力機制的二次發明169

5.2.2Transformer 的誕生背景170

5.2.3Transformer架構171

5.2.4Transformer的創新173

5.3可圈可點的Transformer的位置編碼174

5.3.1位置編碼的背景174

5.3.2位置編碼的原理175

5.3.3位置編碼示例177

5.4Transformer中的註意力機制180

5.4.1註意力機制181

5.4.2自註意力的Q、K和V的設計理念183

5.5自註意力機制的計算流程184

5.5.1生成查詢矩陣、鍵矩陣和值矩陣185

5.5.2計算查詢與鍵的相似度187

5.5.3縮放相似度188

5.5.4歸一化註意力權重189

5.5.5加權求和生成輸出190

5.5.6自註意力計算實踐191

5.6多頭註意力197

5.6.1多頭註意力的原理197

5.6.2多頭註意力與卷積核199

5.7多頭潛在註意力200

5.7.1多頭潛在註意力的定義200

5.7.2多頭潛在註意力機制的數學原理202

5.7.3多頭潛在註意力機制實踐204

5.8Transformer的進化樹206

5.9本章小結208

5.10思考與練習208

參考文獻209

第6章大模型的部署與使用210

 6.1大模型與新質生產力210

6.2大模型的構建211

6.2.1大模型預訓練212

6.2.2指令微調與人類對齊212

6.2.3構建基座大模型的優勢與不足213

6.3主流大模型215

6.3.1BERT215

6.3.2T5 模型216

6.3.3GPT系列大模型218

6.3.4開源旗手Llama220

6.4蓬勃發展的國內大模型222

6.4.1訊飛星火223

6.4.2豆包224

6.4.3通義千問225

6.4.4ChatGLM226

6.4.5DeepSeek228

6.5利用Ollama本地部署大模型232

6.5.1大模型的量化等級232

6.5.2模型部署流程233

6.5.3安裝Ollama234

6.5.4利用 Ollama下載 Llama236

6.5.5安裝 Docker: 輕量級虛擬化解決方案238

6.5.6安裝Open WebUI241

6.5.7加載大模型 Llama244

6.5.8加載DeepSeekR1246

6.6利用LM Studio本地部署Llama251

6.6.1安裝 LM Studio252

6.6.2下載GGUF模型文件252

6.7部署ChatGLM256

6.7.1雲端部署ChatGLM257

6.7.2大模型前端Streamlit259

6.7.3本地與服務器交互263

6.7.4本地部署ChatGLM266

6.8本章小結270

6.9思考與練習271

參考文獻272

第7章大模型的提示學習273

7.1提示學習273

7.1.1什麼是提示273

7.1.2設置提示詞的3個角色275

7.1.3兩類不同用途的大模型278

7.1.4大模型使用的3個原則281

7.1.5有效提示詞的構成部分281

7.2提示詞的黃金法則283

7.2.1給出清晰的指令283

7.2.2提供具體的上下文285

7.2.3將復雜任務分解為簡單任務286

7.2.4給模型時間思考288

7.2.5角色扮演很重要290

7.2.6借力外部工具292

7.3疊代提示出真知295

7.4少樣本提示學習297

7.4.1零樣本提示298

7.4.2少樣本提示299

7.5利用API與大模型交互302

7.5.1利用智譜清言API進行交互302

7.5.2利用DeepSeek應用程序接口進行交互309

7.6提示學習優劣勢315

7.6.1提示學習的優勢315

7.6.2提示學習的不足316

7.7本章小結317

7.8思考與練習318

參考文獻319

第8章大模型微調320

8.1微調的定義320

8.2大模型微調策略321

8.2.1全參數微調321

8.2.2部分參數微調323

8.3參數高效微調 325

8.3.1監督微調325

8.3.2前綴微調327

8.3.3提示微調329

8.4人類反饋強化學習331

8.5直接偏好優化333

8.5.1DPO 流程333

8.5.2DPO案例335

8.5.3DPO與其他微調策略的比較336

8.6PTuning337

8.6.1PTuning v1版本338

8.6.2PTuning v2版本338

8.7LoRA微調341

8.8雲端平臺微調 342

8.8.1準備特定格式的訓練數據集343

8.8.2智譜開放平臺微調349

8.8.3調用微調後的模型355

8.9利用Unsloth 微調Llama 357

8.9.1Unsloth 微調框架357

8.9.2數據準備359

8.9.3加載模型365

8.9.4微調前模型運行371

8.9.5定義微調模型374

8.9.6上傳訓練數據375

8.9.7模型加載數據376

8.9.8訓練數據驗證378

8.9.9模型訓練379

8.9.10模型參數的GGUF 格式386

8.9.11LM Studio加載微調模型388

8.10本章小結390

8.11思考與練習391

參考文獻391

第9章LLM智能體實踐392

9.1智能體基礎與發展脈絡392

9.1.1概念演進: 從傳統 AI Agent到LLMAgent392

9.1.2反應式智能體與審慎式智能體對比395

9.1.3“大模型×智能體”為什麼成為新風口396

9.2智能體的功能與性能評估398

9.2.1感知—決策—行動閉環398

9.2.2記憶、推理與規劃的協同399

9.2.3智能體的關鍵指標401

9.3智能體的規劃402

9.3.1規劃的定義403

9.3.2規劃三組件404

9.4智能體的應用場景406

9.4.1信息檢索407

9.4.2自動化執行408

9.4.3遊戲和虛擬環境410

9.4.4機器人控制411

9.5利用Coze零代碼構建智能體414

9.5.1什麼是 Coze414

9.5.2使用Coze插件415

9.5.3創建工作流423

9.5.4利用扣子空間443

9.6MCP445

9.6.1MCP簡介與誕生背景445

9.6.2MCP的核心機制與結構組成447

9.7本章小結454

9.8思考與練習455

參考文獻456

第10章大模型的認知邊界與安全對齊457

10.1章魚測試與語言模型的局限性457

10.2從柏拉圖表征假說到多模態大模型460

10.3大模型安全463

10.3.1提示詞越獄攻擊463

10.3.2視覺對抗樣本攻擊465

10.3.3提示詞註入攻擊466

10.3.4無限循環輸出的DeepSeekR1 468

10.4大模型的人類對齊與超級對齊469

10.4.1人類對齊的由來469

10.4.2人類對齊的必要性471

10.4.3超級對齊問題473

10.4.4實現人類對齊的方法474

10.4.5人類反饋強化學習475

10.4.6曲別針極造機的啟示478

10.5圖靈的回答481

10.6本章小結482

10.7思考與練習483

參考文獻483