大規模語言模型：從理論到實踐
張奇 等
- 出版商: 電子工業
- 出版日期: 2024-01-01
- 售價: $654
- 貴賓價: 9.5 折 $621
- 語言: 簡體中文
- 頁數: 320
- ISBN: 7121467054
- ISBN-13: 9787121467059
-
相關分類:
ChatGPT、人工智慧、Text-mining
銷售排行:
🥈 2023/12 簡體中文書 銷售排行 第 2 名
立即出貨
買這商品的人也買了...
-
AutoML 自動化機器學習：用 AutoKeras 超輕鬆打造高效能 AI 模型 (Automated Machine Learning with AutoKeras: Deep learning made accessible for everyone with just few lines of coding)$690$545 -
集成式學習：Python 實踐！整合全部技術，打造最強模型 (Hands-On Ensemble Learning with Python: Build highly optimized ensemble machine learning models using scikit-learn and Keras)$750$593 -
下一代無線通信網絡：博弈建模、分析與設計$894$849 -
Google 翻譯實作：機器翻譯 NLP 基礎及模型親手打造$1,200$948 -
Clean Architecture 無瑕的程式碼－整潔的軟體設計與架構篇 + 實作篇－在整潔的架構上弄髒你的手 (雙書合購)$1,080$820 -
深度序列模型與自然語言處理：基於TensorFlow 2實踐$594$564 -
深入淺出 SSD：固態存儲核心技術、原理與實戰, 2/e$774$735 -
$458動手學機器學習 -
$454擴散模型：生成式 AI 模型的理論、應用與代碼實踐 -
從零開始大模型開發與微調：基於 PyTorch 與 ChatGLM$454$427 -
Hugging Face 模型及資料大公開 - 利用 BERT 建立全中文 NLP 應用$720$569 -
多模態大模型：技術原理與實戰$600$570 -
RISC-V 開放架構設計之道$534$507 -
因果推斷與機器學習 (修訂版)$708$673 -
ChatGPT 風暴：大語言模型、生成式AI 與 AIGC 顛覆創新範式$528$502 -
ChatGPT 開發手冊 Turbo×Vision 進化版—用 OpenAI Chat/Assistants API‧Function calling 設計 GPTs action‧LINE/Discord bot‧股市分析/自動助理$820$648 -
TensorFlow 模型解析與範例大全$760$593 -
基於 GPT-3、ChatGPT、GPT-4 等 Transformer 架構的自然語言處理$599$569 -
LangChain 入門指南：構建高可復用、可擴展的 LLM 應用程序$594$564 -
跟 NVIDIA 學深度學習！attention、Transformer、GPT、BERT...，紮穩機器視覺與大型語言模型 (LLM) 的建模基礎$880$695 -
Power BI x Copilot x ChatGPT 商業報表設計入門：資料清理、資料模型、資料視覺化到報表共享建立全局觀念$630$498 -
Staff 工程師之路｜獻給個人貢獻者成長與改變的導航指南 (The Staff Engineer's Path)$580$458 -
邊緣AI｜使用嵌入式機器學習解決真實世界的問題 (AI at the Edge: Solving Real-World Problems with Embedded Machine Learning)$880$695 -
Llama 大模型實踐指南$474$450 -
AI 神助攻！程式設計新境界 – GitHub Copilot 開發 Python 如虎添翼 : 提示工程、問題分解、測試案例、除錯$560$442
商品描述
2023年ChatGPT火爆全球，以其為代表的人工智能大語言模型成為全球人工智能從業者關註的焦點。 本書詳細介紹了構建大語言模型的四個主要階段：預訓練、有監督微調、獎勵建模和強化學習。每個階段都有算法、代碼、數據、難點及實踐經驗的詳細討論。本書以大語言模型的基礎理論開篇，探討了大語言模型預訓練數據的構建方法，以及大語言模型如何理解並服從人類指令，介紹了大語言模型的擴展應用和評估方法，為讀者提供了更全面的視野。 本書旨在為對大語言模型感興趣的讀者提供入門指南，也可作為高年級本科生和研究生自然語言處理相關課程的補充教材。
目錄大綱
第1章 緒論 1
1.1 大語言模型的基本概念 1
1.2 大語言模型的發展歷程 4
1.3 大語言模型的構建流程 8
1.4 本書的內容安排 11
第2章 大語言模型基礎 13
2.1 Transformer結構 13
2.1.1 嵌入表示層 14
2.1.2 注意力層 16
2.1.3 前饋層 18
2.1.4 殘差連接與層歸一化 19
2.1.5 編碼器和解碼器結構 20
2.2 生成式預訓練語言模型GPT 25
2.2.1 無監督預訓練 26
2.2.2 有監督下游任務微調 27
2.2.3 基於HuggingFace的預訓練語言模型實踐 27
2.3 大語言模型的結構 33
2.3.1 LLaMA的模型結構 34
2.3.2 注意力機制優化 40
2.4 實踐思考 47
第3章 大語言模型預訓練數據 49
3.1 數據來源 49
3.1.1 通用數據 50
3.1.2 專業數據 51
3.2 數據處理 52
3.2.1 質量過濾 52
3.2.2 冗餘去除 53
3.2.3 隱私消除 55
3.2.4 詞元切分 55
3.3 數據影響分析 61
3.3.1 數據規模 61
3.3.2 數據質量 64
3.3.3 數據多樣性 66
3.4 開源數據集 68
3.4.1 Pile 68
3.4.2 ROOTS 71
3.4.3 RefinedWeb 73
3.4.4 SlimPajama 75
3.5 實踐思考 79
第4章 分佈式訓練 80
4.1 分佈式訓練概述 80
4.2 分佈式訓練的並行策略 83
4.2.1 數據並行 84
4.2.2 模型並行 88
4.2.3 混合並行 96
4.2.4 計算設備內存優化 97
4.3 分佈式訓練的集群架構 102
4.3.1 高性能計算集群的典型硬體組成 102
4.3.2 參數服務器架構 103
4.3.3 去中心化架構 104
4.4 DeepSpeed實踐 110
4.4.1 基礎概念 112
4.4.2 LLaMA分佈式訓練實踐 115
4.5 實踐思考 127
第5章 有監督微調 128
5.1 提示學習和語境學習 128
5.1.1 提示學習 128
5.1.2 語境學習 130
5.2 高效模型微調 131
5.2.1 LoRA 131
5.2.2 LoRA的變體 135
5.3 模型上下文視窗擴展 137
5.3.1 具有外推能力的位置編碼 137
5.3.2 插值法 138
5.4 指令數據的構建 141
5.4.1 手動構建指令 141
5.4.2 自動構建指令 142
5.4.3 開源指令數據集 146
5.5 DeepSpeed-Chat SFT實踐 147
5.5.1 代碼結構 148
5.5.2 數據預處理 151
5.5.3 自定義模型 153
5.5.4 模型訓練 155
5.5.5 模型推理 156
5.6 實踐思考 157
第6章 強化學習 158
6.1 基於人類反饋的強化學習 158
6.1.1 強化學習概述 159
6.1.2 強化學習與有監督學習的區別 161
6.1.3 基於人類反饋的強化學習流程 162
6.2 獎勵模型 163
6.2.1 數據收集 164
6.2.2 模型訓練 166
6.2.3 開源數據 167
6.3 近端策略優化 168
6.3.1 策略梯度 168
6.3.2 廣義優勢估計 173
6.3.3 近端策略優化演算法 175
6.4 MOSS-RLHF實踐 180
6.4.1 獎勵模型訓練 180
6.4.2 PPO微調 181
6.5 實踐思考 191
第7章 大語言模型應用 193
7.1 推理規劃 193
7.1.1 思維鏈提示 193
7.1.2 由少到多提示 196
7.2 綜合應用框架 197
7.2.1 LangChain框架核心模塊 198
7.2.2 知識庫問答系統實踐 216
7.3 智能代理 219
7.3.1 智能代理的組成 219
7.3.2 智能代理的應用實例 221
7.4 多模態大語言模型 228
7.4.1 模型架構 229
7.4.2 數據收集與訓練策略 232
7.4.3 多模態能力示例 236
7.5 大語言模型推理優化 238
7.5.1 FastServe框架 241
7.5.2 vLLM推理框架實踐 242
7.6 實踐思考 244
第8章 大語言模型評估 245
8.1 模型評估概述 245
8.2 大語言模型評估體系 247
8.2.1 知識與能力 247
8.2.2 倫理與安全 250
8.2.3 垂直領域評估 255
8.3 大語言模型評估方法 260
8.3.1 評估指標 260
8.3.2 評估方法 267
8.4 大語言模型評估實踐 274
8.4.1 基礎模型評估 274
8.4.2 SFT模型和RL模型評估 277
8.5 實踐思考 282
參考文獻 284
索引 303
