深入理解大語言模型：原理、實現和應用

李慶旭，曾先後就職於華為、北電網絡、微軟、C.A. Technologies、Symantec/Veritas等國內外科技企業，擔任過軟件開發工程師、項目經理、團隊技術負責人等職位。參與研發的產品有電信網管軟件、微軟拼音輸入法、微軟SharePoint、Microsoft365、CAClarity項目管理軟件、VeritasNetBackup備份軟件等。對新技術有著濃厚的興趣，於工作之余涉獵多個技術領域，如桌面操作系統、移動操作系統、分布式技術、人工智能、深度學習、大語言模型等。

第1章 預備知識 3 1.1 Python語言簡介 3 1.2 配置Miniconda虛擬環境 5 1.3 Python集成開發環境PyCharm 6 1.4 重要的第三方庫 9 1.5 Jupyter Notebook的安裝和使用 16 1.6 計算加速硬件GPU 18 1.7 與深度學習相關的網站 19 第2章 大語言模型初探 20 2.1 大語言模型的分類 20 2.2 使用Transformers庫在本地部署開源大語言模型 20 2.3 使用開源的Ollama工具部署開源大語言模型 26 2.4 Google Colab 28 第3章 疊代算法求函數交點 31 3.1 牛頓法求函數交點 31 3.2 梯度下降法求函數交點 37 3.3 疊代算法求函數解的通用形式化描述 40 第4章 單層神經網絡 42 4.1 人腦神經元 42 4.2 人工神經元 43 4.3 二元線性回歸 43 4.4 單層神經網絡的訓練方法及實現 45 4.5 多輸出單層神經網絡 51 4.6 單層神經網絡的局限性 51 第5章 多層神經網絡 55 5.1 帶激活函數的單層神經網絡 55 5.2 常用的激活函數 56 5.3 帶一個隱藏層的神經網絡示例 61 5.4 梯度反向傳播算法 62 5.5 使用帶一個隱藏層的神經網絡表示XOR函數 66 5.6 深度神經網絡 68 第6章 PyTorch庫簡介 69 6.1 PyTorch的主要模塊 70 6.2 PyTorch的torch.tensor模塊 71 6.3 PyTorch提供的神經網絡構建塊 76 6.4 PyTorch提供的激活函數 77 6.5 PyTorch提供的損失函數 77 6.6 PyTorch提供的優化算法 80 6.7 PyTorch提供的數據加載與處理工具 83 6.8 PyTorch的自動微分功能 85 6.9 模型的保存和加載 88 第7章 模型設計和訓練 89 7.1 解決機器學習問題的步驟 89 7.2 清洗和預處理數據 90 7.3 設計模型 92 7.4 訓練模型 93 7.5 驗證模型 95 7.6 部署及持續改進模型 95 7.7 實戰：手寫體數字識別 95 第二部分 大語言模型的網絡架構 第8章 語言模型和分詞器 101 8.1 語言模型 101 8.2 分詞器 104 第9章 嵌入 114 9.1 向量的模與點積 114 9.2 神經網絡中的嵌入層 115 9.3 句子嵌入 123 第10章 點積註意力 126 10.1 註意力是什麼 126 10.2 註意力的計算 127 第11章 Transformer註意力 136 11.1 Transformer註意力概述 136 11.2 Transformer單頭註意力的實現 139 11.3 Transformer多頭註意力的實現 142 11.4 開源Qwen2模型中的多頭註意力實現 144 第12章 Transformer架構 146 12.1 Transformer架構簡介 146 12.2 編碼器 152 12.3 解碼器 152 12.4 編碼器-解碼器 153 12.5 編碼器和解碼器的區別 154 12.6 一個完整的編碼器例子 155 第13章 BERT及其應用 159 13.1 BERT的網絡模型 159 13.2 BERT的訓練 161 13.3 BERT應用實戰：中文文本情感分類 162 第14章 開源大語言模型及其應用 171 14.1 大語言模型的網絡架構 171 14.2 預測下一個token的概率分布 176 14.3 采樣策略 177 第三部分 大語言模型的訓練 第15章 大語言模型的訓練 183 15.1 大模型訓練方法的演進過程 183 15.2 預訓練 185 15.3 微調 185 15.4 上下文學習 187 15.5 縮放定律 187 15.6 湧現能力 188 第16章 大語言模型的預訓練 191 16.1 預訓練數據來源 192 16.2 預訓練數據的處理 192 16.3 預訓練的手動實現 194 16.4 使用Transformers庫的Trainer類進行預訓練 200 第17章 大語言模型的指令微調 202 17.1 指令微調的訓練數據格式 202 17.2 指令微調的方法 205 17.3 實戰：對Qwen2.5進行LoRA微調 208 第18章 大語言模型的偏好微調 217 18.1 偏好微調的數據格式 217 18.2 不能用指令微調的方法進行偏好微調 218 18.3 RLHF算法 218 18.4 偏好微調的DPO算法 222 18.5 DPO微調實戰 225 第19章 大語言模型壓縮技術 230 19.1 量化 230 19.2 剪枝 238 19.3 蒸餾 239 第四部分 大語言模型的演化、評估和應用 第20章 架構的演化和大語言模型的評估 247 20.1 架構的演化 247 20.2 大語言模型的評估 254 第21章 大語言模型應用技術 259 21.1 幻覺及其產生的原因 260 21.2 RAG 260 21.3 提示詞工程 264 21.4 流式輸出 271 21.5 AI工程 272 第22章 對大語言模型的理解和思考 273 22.1 深層次思考大語言模型是什麼 273 22.2 關於大語言模型發展過程的思考 276 第五部分 大語言模型的應用實例 第23章 實戰案例：基於RAG的PDF論文閱讀器 281 23.1 如何支持多輪對話 282 23.2 完整的代碼 283 第24章 實戰案例：A股股票分析智能體 291 24.1 如何獲取A股股票信息 292 24.2 如何生成PDF文件 293 24.3 如何讓大語言模型給出投資建議 294 24.4 完整的代碼 295 附錄 本書配套代碼文件說明 304