大模型應用開發 核心技術與領域實踐

前言
第1章 大模型概述
1.1 大模型的概念
1.2 大模型的應用現狀
1.2.1 國外的大模型
1.2.2 國內的大模型
1.2.3 大模型的應用狀況
1.3 大模型存在的問題
1.3.1 機器幻覺
1.3.2 安全倫理
1.3.3 選擇錯誤目標
1.3.4 難以監督
1.4 大模型的發展趨勢
1.4.1 多模態能力
1.4.2 AI Agent
1.4.3 端側應用
1.4.4 可信性及可解釋性
1.4.5 自我學習
1.5 本章小結
第2章 大模型核心技術
2.1 大模型建置流程
2.1.1 預訓練語言模型
2.1.2 模型微調
2.1.3 對齊優化
2.2 Transformer模型
2.2.1 Transformer模型概述
2.2.2 編碼器與解碼器
2.2.3 註意力機制
2.2.4 詞向量
2.2.5 位置編碼
2.2.6 規範化
2.2.7 激活函數
2.2.8 優化器
2.2.9 基於Transformer的大模型架構選擇
2.3 模型微調
2.3.1 指令微調資料集
2.3.2 調優策略
2.4 對齊優化
2.4.1 回饋
2.4.2 偏好模型
2.4.3 RLHF
2.5 提示工程
2.5.1 提示工程開發流程
2.5.2 提示設計開發
2.6 本章小結
第3章 大模型技術拓展
3.1 推理優化技術
3.1.1 解碼最佳化演算法
3.1.2 推理加速策略
3.2 大模型訓練技術
3.2.1 並行訓練
3.2.2 訓練容錯
3.2.3 混合精準度訓練
3.3 大模型評估
3.3.1 大模型評估概述
3.3.2 大模型評量任務
3.3.3 大模型評估資料集
3.3.4 大模型評估方法
3.4 大模型部署
3.4.1 模型環境搭建
3.4.2 模型運行測試
3.5 本章小結
第4章 插件應用程式開發實踐
4.1 應用概述
4.1.1 ChatGPT插件
4.1.2 LangChain插件
4.1.3 通用插件呼叫流程
4.2 天氣查詢插件開發
4.2.1 基於ChatGPT的插件開發
4.2.2 基於AutoGen的插件開發
4.3 語音互動插件開發
4.4 本章小結
第5章 RAG實踐
5.1 應用概述
5.2 RAG流程
5.3 環境構建
5.4 應用實踐
5.4.1 知識解析
5.4.2 檢索
5.4.3 增強
5.4.4 生成
5.5 本章小結
第6章 智慧客服問答實踐
6.1 應用概述
6.2 環境構建
6.2.1 開發環境搭建
6.2.2 開源模型下載
6.3 應用開發
6.3.1 實現多輪對話系統
6.3.2 提示優化
6.3.3 第三方工具調用
6.4 應用部署
6.5 本章小結
第7章 學科知識問答實踐
7.1 應用概述
7.2 環境構建
7.2.1 開發環境搭建
7.2.2 項目參數配置
7.3 學科知識圖譜
7.3.1 大模型與知識圖譜
7.3.2 學科知識圖譜建構流程
7.3.3 學科知識資料集
7.3.4 學科知識處理
7.4 應用開發
7.4.1 功能設定
7.4.2 知識庫構建
7.4.3 基於LangChain的問答實踐
7.5 本章小結
第8章 法律領域應用實踐
8.1 應用概述
8.2 對話資料微調
8.2.1 法律對話資料預處理
8.2.2 對話微調工具編寫
8.2.3 模型微調框架的參數配置
8.2.4 微調前後的對話問答對比
8.3 指令微調
8.3.1 法律指令資料集預處理
8.3.2 指令微調工具編寫
8.3.3 法律大模型指令問答評估
8.3.4 微調前後的對話問答對比
8.4 部署驗證
8.5 本章小結
第9章 醫療領域應用實踐
9.1 應用概述
9.2 醫療資料集構建
9.2.1 增量預訓練資料集
9.2.2 有監督微調資料集
9.2.3 直接偏好優化資料集
9.2.4 模型評測資料集
9.3 增量預訓練與微調
9.3.1 增量預訓練
9.3.2 有監督微調
9.3.3 直接偏好優化
9.4 部署驗證
9.5 模型評估
9.5.1 配置評估任務
9.5.2 啟動評量任務
9.5.3 可視化評估結果
9.6 本章小結
第10章 智慧助寫平臺實踐
10.1 應用概述
10.2 業務邏輯
10.2.1 系統總體設計
10.2.2 模組設計
10.3 功能實現
10.3.1 寫作潤飾功能
10.3.2 批閱糾錯功能
10.3.3 智慧翻譯功能
10.3.4 個人中心功能
10.4 本章小結
附錄 大模型的發展階段