LangChain與企業級LLM服務
相關主題
商品描述
"《LangChain與企業級LLM服務:從設計到部署》系統講解如何基於LangChain構建企業級大語言模型應用。以LangChain 0.2為核心,結合OpenAI與開源模型,涵蓋Prompt設計、Agent開發、LangServe部署及LangSmith調優等全流程,深入解析LangChain技術生態。 《LangChain與企業級LLM服務:從設計到部署》共13章。第1~3章介紹LLM基礎、LangChain入門及核心模塊(如Prompt模板、LCEL等);第4~7章通過企業文檔平臺、旅遊客服、AI編程助手等案例,整合Agent、LangGraph等技術;第8章和第9章詳解LangSmith監控調優與LangServe部署實戰(含阿裏雲案例);第10~13章拓展生態展望(如AutoGen)、剖析商業案例,並專題解析國產DeepSeek模型及其與LangChain結合的開發實踐。 《LangChain與企業級LLM服務:從設計到部署》適合高等院校計算機、人工智能等相關專業的學生閱讀,以及對大語言模型應用、HuggingFace、LangChain技術感興趣的研究人員和互聯網研發工程師閱讀參考。"
作者簡介
唐文,網絡工程專業,個人研究方向為AI大模型和機器學習。畢業後先後就職於聚美優品、邊鋒領沃等國內外上市公司,目前供職於美國Global Payment集團的子公司活躍網絡的技術部,擔任高級軟件工程師、後端Tech Leader。對Python、Golang、LangChain、LLM技術有著深入研究和實戰經驗。
目錄大綱
目 錄
第1章 擁抱大語言模型 1
1.1 大語言模型簡介 1
1.1.1 大語言模型的定義 2
1.1.2 大語言模型的發展和應用場景 3
1.2 主流的大語言模型 5
1.2.1 OpenAI的大語言模型 5
1.2.2 Meta的Llama模型 7
1.2.3 Claude大語言模型 10
1.2.4 國內自研大語言模型:ChatGLM、MOSS和文心一言 12
1.3 大語言模型的開發工具LangChain 14
第2章 LangChain初體驗 15
2.1 LangChain介紹和安裝 15
2.1.1 什麼是LangChain 15
2.1.2 環境搭建 16
2.1.3 LangChain的應用場景 20
2.2 小試牛刀:開發一個AI文章生成工具 21
2.2.1 初始化項目和配置 21
2.2.2 編寫標題生成服務 23
2.2.3 編寫文章生成服務 28
2.2.4 多鏈合並 30
2.3 LLM開發的工作原理和標準流程 33
第3章 LangChain基礎模塊 36
3.1 LangChain的核心概念 36
3.2 輸入和輸出組件 38
3.2.1 Prompt模板能力 39
3.2.2 ChatModel模塊 46
3.2.3 自定義Chat Model 49
3.2.4 LLM模塊的選擇 50
3.2.5 輸出解析器和自定義輸出解析器 58
3.3 LCEL 61
3.3.1 管道操作 62
3.3.2 綁定參數的使用 64
3.3.3 invoke函數 66
3.3.4 stream函數 67
3.3.5 batch函數 67
3.4 Memory模塊 68
3.5 基於輸入的動態邏輯路由 71
3.5.1 RunnableLambda 72
3.5.2 RunnableBranch 73
3.6 檢索 74
3.6.1 文檔加載器 74
3.6.2 文本分割器 77
3.6.3 詞嵌入模型 79
3.6.4 向量數據庫 83
3.6.5 檢索器 96
3.6.6 索引 100
第4章 企業文檔智能平臺實戰 103
4.1 智能文檔的架構設計和功能規劃 103
4.2 文檔加載和預處理 105
4.3 Embedding過程 108
4.4 vectorstore的選擇 110
4.5 問答式檢索器:QARetriever 113
4.6 自查詢檢索器:SelfQueryRetriever 116
4.7 多向量檢索器:MultiVectorRetriever 120
4.8 多輪對話能力 126
4.9 優化會話內存管理 130
4.10 優化上下文和檢索 132
第5章 旅遊業AI客服實戰 140
5.1 旅遊服務的“痛點” 140
5.2 AI客服架構設計 141
5.3 Agent模塊 144
5.3.1 Agent的基本概念 144
5.3.2 Agent的常用類型和實際使用場景 147
5.3.3 Agent Tools的使用 150
5.3.4 Agent和OpenAI整合 153
5.4 接入第三方天氣API 156
5.5 第三方酒店預訂API整合 161
5.6 LangGraph的使用 164
5.7 UI整合 168
5.8 本章小結 170
第6章 開發者AI Assistant實戰 171
6.1 開發者的開發流程和新需求 171
6.1.1 瀑布流開發 171
6.1.2 Scrum開發 172
6.2 技術選型和架構設計 172
6.2.1 插件開發初體驗 174
6.2.2 調試、編譯和安裝插件 176
6.3 常用Git操作的封裝 177
6.3.1 自動生成註釋 178
6.3.2 提交信息智能生成 181
6.3.3 智能rebase多次提交 184
6.4 基於代碼倉庫的智能問答和檢索 188
6.4.1 加載文檔 188
6.4.2 切分代碼塊 189
6.4.3 詞嵌入和向量存儲 189
6.4.4 問答功能 190
6.5 AI生成代碼註釋 191
6.6 文檔生成 192
6.7 基於業務代碼生成單元測試 193
6.8 代碼漏洞檢測和性能優化 195
第7章 AI代碼審核實戰 197
7.1 代碼審核的重要性 197
7.2 AI如何進行代碼審核和接入工作流 199
7.3 架構設計和場景設計 200
7.4 最佳實踐預學習 201
7.5 介入合並沖突 207
7.6 客戶端側實現AI審核 208
7.7 Webhook實現AI代碼審核 210
7.8 Pull Request駁回和通過的處理 213
7.9 生成代碼質量報告 215
7.10 集成SonarQube 218
第8章 LangSmith實戰 230
8.1 什麼是LangSmith 230
8.1.1 LangSmith的基本概念 230
8.1.2 LangSmith的核心功能模塊 231
8.1.3 自定義追蹤設置 237
8.1.4 性能調優 240
8.2 離線方式評估LLM應用性能 242
8.3 CI交互式評估LLM應用性能 246
8.4 線上方式評估LLM應用性能 249
第9章 LangChain應用的部署實戰 251
9.1 Docker方式部署 251
9.2 LangServe部署LLM應用 254
9.3 LangChain CLI 255
9.4 LangChain Templates的應用 257
9.5 案例:LangChain-Chatchat部署LLM應用 260
第10章 LangChain的生態和未來 265
10.1 LangChain生態現狀 265
10.2 LangChain Hub 266
10.3 其他LLM開發框架:AutoGen 268
10.4 對LangChain的展望 273
第11章 AI商業創新 275
11.1 OpenAI的商業之路和創新 275
11.2 案例分析:Devv.ai 277
11.3 案例分析:MarsCode 280
第12章 國產之光:DeepSeek模型 283
12.1 後起之秀DeepSeek 283
12.2 DeepSeek模型系列 289
12.3 DeepSeek-R1模型 289
12.4 DeepSeek本地部署 290
12.4.1 Ollama方式部署 292
12.4.2 UI方案一:Open WebUI 293
12.4.3 UI方案二:ChatBox 296
12.5 DeepSeek雲上部署 297
第13章 DeepSeek實戰之編程助手 300
13.1 AI輔助編程的重要性 300
13.2 需求分析和技術架構設計 301
13.3 預學習 302
13.4 代碼補全功能開發 314