GPT 多模態大模型與 AI Agent 智能體

陳敬雷，充電了麼創始人，中國首席數據官聯盟專家委員。擁有十幾年互聯網從業經驗，在技術領域，尤其在大數據和人工智能方向有豐富的算法工程落地實戰經驗，其中在獵聘網任職期間 的 算法系統項目獲得公司 項目獎， 效果得到5倍的提升。目前專註於大數據和人工智能驅動的上班族在線教育行業，研發了充電了麼App，用深度學習算法、NLP、 引擎等技術來高效提升在線學習效率。

第1章 大模型技術原理
1.1 大模型技術的起源、思想
1.2 基於Transformer的預訓練語言模型
1.2.1 編碼預訓練語言模型
1.2.2 解碼預訓練語言模型
1.2.3 基於編解碼架構的預訓練語言模型
1.3 提示學習與指令微調
1.3.1 提示學習
1.3.2 指令微調
1.4 人類反饋強化學習
1.4.1 強化學習
1.4.2 PPO算法
1.4.3 大模型人類反饋強化學習對齊
1.5 GPT智能湧現原理與AGI通用人工智能
1.5.1 什麼是智能湧現
1.5.2 思維鏈
1.5.3 上下文學習能力
1.5.4 指令理解
1.5.5 通用人工智能
第2章 大模型訓練及微調
2.1 大模型訓練概述
2.2 分布式訓練的並行策略
2.2.1 數據並行
2.2.2 模型並行
2.2.3 混合並行
2.2.4 並行計算框架
2.3 預訓練模型的壓縮
2.3.1 模型壓縮方案概述
2.3.2 結構化模型壓縮策略
2.3.3 非結構化模型壓縮策略
2.3.4 8位/4位量化壓縮實戰
2.4 大模型微調方法
2.4.1 Prefix Tuning微調
2.4.2 P-Tuning V1微調
2.4.3 P-Tuning V2微調
2.4.4 LoRA微調
2.4.5 QLoRA微調
2.5 基於旋轉位置編碼RoPE的長文本理解
2.5.1 RoPE技術原理
2.5.2 RoPE關鍵特性
第3章 主流大模型
3.1 大模型
3.1.1 智譜清言 ChatGLM
3.1.2 百川智能
3.1.3 百度文心一言
3.1.4 阿裏巴巴通義千問
3.1.5 騰訊混元
3.1.6 華為盤古
3.1.7 360智腦
3.1.8 科大訊飛星火
本書深入探討GPT多模態 大模型與AI Agent智能體的 技術原理及其在企業中的應 用落地。 全書共8章，從大模型技 術原理切人，逐步深人大模 型訓練及微調，還介紹眾多 外主流大模型 LangChain技術、RAG檢索 增強生成、多模態大模型等 均有深入講解。對AI Agent 智能體，從定義、原理到主 流框架也都進行深入講解。 在企業應用落地方面，本書 提供豐富的案例分析，如基 於大模型的對話式 系統 、多模態搜索、NL2SQL數 據即席查詢、智能客服對話 機器人、多模態數字人以及 多模態具身智能等。這些案 例不僅展示了大模型技術的 實際應用，也為讀者提供了 寶貴的實踐經驗。 本書內容豐富、系統， 既有理論知識的深入講解， 也有大量的實踐案例和代碼 示例，能夠幫助學生在掌握 理論知識的同時，培養實際 操作的能力和解決問題的能 力。通過閱讀本書，讀者將 能夠 好地理解大模型技術 的前沿發展，並將其應用於 實際工作中，推動人工智能 技術的進步和創新 本書適合對大模型、多 模態技術及AI Agent感興趣 的讀者閱讀，也特別適合作 為高等院校本科生和研究生 的教材或參考書。