大語言模型基礎與應用開發

鄭天民，15年+軟件行業從業經驗，前世界500強集團技術總監。經歷過大型上市公司和互聯網獨角獸公司，擔任過架構師、技術總監、CTO。資深講師和企業內訓師，對AI企業賦能、系統架構設計和技術管理有豐富經驗。阿裏雲MVP、騰訊雲TVP。

 

目錄

 

 

第一部分基 礎 知 識

 

 

第1章大語言模型應用開發生態

 

1.1大語言模型應用模式

 

1.1.1對話系統模式

 

1.1.2多模態模式

 

1.1.3檢索增強生成模式

 

1.2大語言模型集成開發框架

 

1.2.1集成開發框架概述

 

1.2.2LangChain4j基本架構

 

1.2.3LangChain4j開發模式

 

第2章構建聊天語言模型

 

2.1實現提示工程

 

2.1.1提示工程基本概念

 

2.1.2提示詞的分類

 

2.1.3提示詞模板

 

2.2掌握聊天模型交互過程

 

2.2.1模型的封裝過程

 

2.2.2模型的創建過程

 

2.2.3LangChain4j中的模型

 

2.3構建聊天語言模型

 

2.3.1掌握ChatMessage類型

 

2.3.2使用ChatLanguageModel

 

2.4構建AI服務

 

2.4.1構建AI服務概述

 

2.4.2集成聊天消息

 

第3章定制化聊天語言模型

 

3.1嵌入聊天記憶

 

3.1.1模型的狀態性和聊天記憶機制

 

3.1.2ChatMemory類型和使用方法

 

3.1.3ChatMemory持久化

 

3.2定制聊天邏輯

 

3.2.1引入Tool組件

 

3.2.2Tool的使用方法

 

3.2.3整合Tool和ChatMemory

 

3.3控制模型輸出

 

3.3.1控制聊天過程

 

3.3.2響應結果和OutputParser

 

第4章多模態應用模式

 

4.1文本加工

 

4.1.1結構化數據提取

 

4.1.2文本分類

 

4.2圖像處理

 

4.2.1圖像生成

 

4.2.2圖像解析

 

4.2.3圖像模型集成

 

第二部分案 例 實 踐

 

第5章基於LLM構建RAG文檔聊天系統

 

5.1RAG文檔聊天系統設計

 

5.1.1RAG組成結構

 

5.1.2LangChain4j Easy RAG組件

 

5.2實現文檔處理

 

5.2.1加載文檔

 

5.2.2處理文本片段

 

5.3構建文本嵌入和檢索

 

5.3.1嵌入模型

 

5.3.2嵌入存儲

 

5.3.3內容檢索

 

5.4實現RAG文檔聊天系統

 

5.4.1基於RAG API創建聊天模型

 

5.4.2引入EmbeddingStoreIngestor優化RAG流程

 

5.5應用RAG高級組件

 

5.5.1RetrievalAugmentor架構

 

5.5.2查詢壓縮

 

5.5.3查詢路由

 

5.5.4元數據註入和過濾

 

5.5.5檢索跳過和合並

 

第6章基於LLM實現智能客服助手

 

6.1智能客服助手設計

 

6.1.1智能客服助手應用場景

 

6.1.2智能客服助手系統架構

 

6.2集成LangChain4j和Spring Boot

 

6.2.1LangChain4j Spring Boot Starter

 

6.2.2集成Spring Boot和聊天模型

 

6.3智能客服助手實現

 

6.3.1實現AI服務

 

6.3.2實現RAG

 

6.3.3實現數據庫集成

 

6.3.4測試和驗證

 

第7章基於LLM實現用戶留言分析平臺

 

7.1用戶留言分析平臺設計

 

7.1.1用戶留言分析應用場景

 

7.1.2用戶留言分析系統架構

 

7.2集成LangChain4j和Quarkus

 

7.2.1使用Quarkus LangChain4j集成聊天模型

 

7.2.2Quarkus LangChain4j高級特性

 

7.3實現用戶留言分析和存儲

 

7.3.1用戶留言分析

 

7.3.2用戶留言保存和查詢

 

7.3.3整合用戶留言分析和存儲

 

7.4實現聊天交互

 

7.4.1構建聊天AI服務

 

7.4.2構建聊天WebSocket

 

7.4.3測試和驗證

 

第8章基於LLM構建知識庫系統

 

8.1知識庫系統設計

 

8.1.1知識庫系統應用場景

 

8.1.2知識庫系統架構設計

 

8.2知識存儲的實現

 

8.2.1關系數據庫知識存儲

 

8.2.2向量數據庫知識存儲

 

8.3知識檢索的實現

 

8.3.1構建基礎對話

 

8.3.2構建異步對話

 

8.3.3測試和驗證

 

第三部分原 理 解 析

 

第9章大語言模型開發框架原理解析

 

9.1架構擴展性設計解析

 

9.1.1微內核架構和SPI機制

 

9.1.2LangChain4j SPI機制解析

 

9.1.3代碼執行引擎

 

9.2聊天模型實現原理解析

 

9.2.1OpenAI的調用和封裝

 

9.2.2ChatLanguageModel實現

 

9.2.3AI服務實現

 

9.3檢索增強實現原理解析

 

9.3.1ContentRetriever的實現原理

 

9.3.2RetrievalAugmentor的實現原理

 

9.4系統集成解析

 

9.4.1模型集成

 

9.4.2RAG集成