智能體：理論基礎與應用實踐

何明，重慶大學學士，中國科學技術大學博士，曾於美國北卡羅來納大學夏洛特分校訪問交流，目前為上海交通大學電子科學與技術方向博士後研究人員、OPPO研究院人工智能算法研究員。主要研究方向為深度強化學習、數據挖掘與知識發現、機器學習方法及其應用，側重於移動端用戶行為分析與建模。在TIP、TWEB、DASFAA、IEEE Access等 學術會議和期刊共發表論文10餘篇，曾獲數據挖掘領域 會議KSEM2018的 論文獎。

第1章 智能體緒論
1.1 背景介紹
1.2 發展歷程
1.3 基礎概念
1.3.1 智能體定義
1.3.2 智能體分級
1.3.3 智能體要素
1.3.4 關聯技術
1.4 思考與展望
1.5 本章小結
第2章 自然語言處理基礎
2.1 基本信息
2.1.1 發展歷程
2.1.2 基本範式
2.1.3 統計機器學習
2.1.4 常用術語
2.2 主要任務
2.2.1 自然語言表示
2.2.2 自然語言理解
2.2.3 自然語言信息提取
2.2.4 自然語言生成
2.3 詞元化與分詞技術
2.3.1 詞元化
2.3.2 詞級分詞方法
2.3.3 子詞級分詞方法
2.4 表征方法
2.4.1 稀疏向量表示法
2.4.2 詞表征方法
2.4.3 句子表征方法
2.5 語言模型
2.5.1 語言模型介紹
2.5.2 統計語言模型
2.5.3 神經語言模型
2.5.4 預訓練語言模型
2.6 本章小結
第3章 大模型基礎
3.1 基礎概念
3.1.1 大模型與智能體的關系
3.1.2 大模型的基本工作原理
3.2 大模型架構
3.2.1 架構介紹
3.2.2 Transformer
3.2.3 註意力機制
3.2.4 前饋網絡層
3.2.5 歸一化層
3.2.6 位置編碼
3.3 生成解碼
3.3.1 采樣策略
3.3.2 兩階段生成
3.4 模型預訓練
3.4.1 數據源
3.4.2 數據預處理
3.4.3 數據調度
3.4.4 預訓練任務
3.4.5 縮放定律與壓縮智能
3.5 模型後訓練
3.5.1 持續預訓練
3.5.2 監督微調
3.5.3 參數高效微調
3.5.4 強化學習
3.5.5 長思維鏈與強化微調
3.6 上下文學習
3.6.1 基本形式
3.6.2 多輪對話
3.6.3 推理能力
3.6.4 學習機制
3.7 代表性大模型
3.8 本章小結
第4章 智能體系統
4.1 智能體架構
4.1.1 工具導向型智能體架構
4.1.2 身份導向型智能體架構
4.2 單智能體模式
4.2.1 面向任務的智能體
4.2.2 面向創新的智能體
4.2.3 面向生命周期的智能體
4.3 多智能體協作模式
4.3.1 互補型協作多智能體
4.3.2 對抗型協作多智能體
4.4 人與智能體協作模式
4.4.1 指令-執行協作模式
4.4.2 對等協作模式
4.4.3 其他協作模式
4.5 本章小結
第5章 感知能力
5.1 環境介紹
5.2 感知目標
5.3 單模態信息感知
5.3.1 文本信息感知
5.3.2 視覺信息感知
5.3.3 聽覺信息感知
5.3.4 傳感器信息感知
5.3.5 其他形式的信息感知
5.4 全模態信息感知
5.5 本章小結
第6章 角色扮演能力
6.1 角色定義
6.2 大模型的角色扮演能力分析
6.2.1 類人特性
6.2.2 角色偏見
6.3 角色信息生成
6.3.1 人工設定
6.3.2 免訓練的方法
6.3.3 基於訓練的方法
6.4 角色信息 新
6.4.1 認知型GPT
6.4.2 工具導向對話 系統
6.5 角色扮演類型
6.5.1 單角色扮演
6.5.2 多角色扮演
6.6 本章小結
第7章 記憶能力
7.1 記憶的理論基礎
7.2 記憶類型
7.2.1 感覺記憶
7.2.2 短期記憶
7.2.3 長期記憶
7.3 記憶架構
7.3.1 統一記憶架構
7.3.2 混合記憶架構
7.4 記憶形式
7.4.1 自然語言存儲
7.4.2 表征向量存儲
7.4.3 數據庫存儲
7.4.4 結構化數據存儲
7.4.5 參數化記憶存儲
7.5 記憶操作
7.5.1 記憶寫入
7.5.2 記憶反思
7.5.3 記憶遺忘
7.5.4 記憶讀取
7.6 本章小結
第8章 檢索增強生成
8.1 RAG介紹
8.2 知識庫構建
8.2.1 文本解析
8.2.2 文本分塊
8.2.3 向量編碼
8.2.4 索引構建
8.3 查詢優化
8.3.1 查詢擴展
8.3.2 查詢分解
8.3.3 查詢消歧
8.3.4 查詢抽象
8.4 知識檢索
8.4.1 查詢路由
8.4.2 檢索器
8.4.3 檢索器微調
8.4.4 檢索結果重排
8.5 知識融合
8.5.1 融合階段
8.5.2 融合範式
8.6 答案生成
8.6.1 上下文優化
8.6.2 生成器優化
8.7 知識引用
8.7.1 邊生成邊引用
8.7.2 先生成後引用
8.8 RAG範式進階
8.8.1 圖譜型RAG
8.8.2 推理型RAG
8.8.3 智能體型RAG
8.9 RAG評估
8.10 本章小結
第9章 規劃能力
9.1 規劃理論基礎
9.1.1 人類的思考機制
9.1.2 大模型的規劃原理
9.1.3 規劃能力概述
9.2 基於分解的規劃方法
9.2.1 思維鏈
9.2.2 計劃-求解
9.2.3 開源集成的規劃方法
9.2.4 推理與行動結合
9.2.5 程序輔助性語言模型
9.2.6 程序提示詞
9.3 基於選擇的規劃方法
9.3.1 自我一致性思