LLM：困難部分｜以開源AI方案解決開發難題 (Large Language Models: The Hard Parts: Open Source AI Solutions for Common Pitfalls)
Tharsis Souza , Jonathan Regenstein 著 agility studio 譯
- 出版商: 歐萊禮
- 出版日期: 2026-10-30
- 定價: $780
- 售價: 7.9 折 $616
- 語言: 繁體中文
- 頁數: 360
- ISBN: 6264254312
- ISBN-13: 9786264254311
-
相關分類:
LangChain
- 此書翻譯自: Large Language Models: The Hard Parts: Open Source AI Solutions for Common Pitfalls (Paperback)
尚未上市，歡迎預購
買這商品的人也買了...
-
$700Professional Scrum Development with Microsoft Visual Studio 2012 (Paperback) -
$957深度學習 -
Martin Fowler 的企業級軟體架構模式：軟體重構教父傳授 51個模式，活用設計思考與架構決策 (Patterns of Enterprise Application Architecture)$800$624 -
我懂了！專案管理 (暢銷紀念版)$400$316 -
電腦視覺機器學習實務｜建立端到端的影像機器學習 (Practical Machine Learning for Computer Vision: End-To-End Machine Learning for Images)$780$616 -
$2,070Learning Blazor: Build Single-Page Apps with Webassembly and C# (Paperback) -
$1,944ASP.NET Core Razor Pages in Action (Paperback) -
超圖解 ESP32 應用實作$820$647 -
無瑕的程式碼 軟體工匠篇：程式設計師必須做到的紀律、標準與倫理 (Clean Craftsmanship: Disciplines, Standards, and Ethics)$720$561 -
從源頭就優化 - 動手開發自己的編譯器實戰$880$695 -
Ollama 本地 AI 全方位攻略：命令列功能、五大主題測試、RAG、Vibe Coding、MCP，一本搞定所有實戰應用$750$592 -
Vibe Coding - Cursor 教戰手冊$880$695 -
UX 商業價值實現之道｜打造成功的數位產品服務 (UX for Business: How to Design Valuable Digital Companies)$780$616 -
建構可擴展系統｜設計分散式架構 (Foundations of Scalable Systems: Designing Distributed Architectures)$780$616 -
Vibe Coding CLI 頂級開發 - Claude Code 前瞻菁英育成手冊$1,080$853 -
MCP 開發全攻略：打造懂指令、會協作的 AI 系統$550$412 -
n8n × Vibe Coding 本機 AI Agent 自動化工作流$880$695 -
Claude Code Vibe Coding 開發手冊, 2/e$850$671 -
10 倍速！AI Skill 全攻略：建立 Skill 驅動 AI 系統，打造從學術研究到專案開發的自動化工作流$1,000$780 -
Codex Vibe Coding 開發手冊$850$671 -
AI 時代的終端機入門：非工程師也能學會的 CLI、指令與 AI 工具實戰$720$568 -
最重要的 20個 AI Agent 實戰案例精彩直播$880$695 -
紫隊攻防演練：紅藍協作、對手模擬與偵測驗證實務$680$537 -
LLM 服務部署與最佳化實戰｜從系統建構到高效運行 (Hands-On LLM Serving and Optimization: Hosting Llms at Scale)$780$616 -
最強 AI 搜尋：SEO 零預算！掌握搜尋引擎真正的需求，為自己或企業創造數十倍到數百倍的能見度與營收【附贈網頁程式工具包】$480$379
相關主題
商品描述
「本書由兩位頂尖實踐者執筆，無論讀者程度如何，皆能從這一本必備指南中取得駕馭 LLM 的實用工具。」
Sudheer Chava，喬治亞理工學院金融服務創新實驗室主任、Alton M. Costley 講座教授
「本書深入探討現實 LLM 系統的棘手挑戰，並提供周全且務實的見解。」
Tomaso Aste，倫敦大學學院複雜科學教授
大型語言模型（LLM）徹底改變了自然語言處理流程，然而，當你在應用程式中部署它們時，也會面臨許多技術挑戰。本書清楚且務實地剖析了開發者與 AI 工程師建構 LLM 應用程式時面臨的難關。本書聚焦於實作陷阱，而非僅談論功能，並透過可重現的 Python 程式碼與開源工具來提供立即可用的策略。
本指南專為開發者與技術產品主管而寫，提供解決現實問題的方法，幫助讀者理解 LLM 的限制與取捨，進而突破應用程式評估、輸入管理、測試、安全…等關鍵障礙。
• 為非確定性系統設計測試策略與評估策略
• 管理脈絡、RAG 與長脈絡檢索
• 處理輸出不一致與結構不可靠的問題
• 建構安全與內容審核框架
• 探討校準挑戰與緩解方法
• 在本機上運用開源模型
作者簡介
Thársis T. P. Souza 是電腦科學家、作家，也是專門研發 AI 驅動產品的產品主管。他曾經在華爾街多家大型避險基金，以及矽谷新創公司擔任產品主管，並擁有倫敦大學學院（UCL）電腦科學博士學位。
Jonathan K. Regenstein, Jr. 的職涯橫跨資料、機器學習、科技與資產管理領域。他是喬治亞理工學院金融服務創新實驗室研究員，也是多家新創 AI 公司的顧問，擁有哈佛大學學士學位與紐約大學法學院法學博士學位。
目錄大綱
第一章 第一原理：在開始打造LLM應用程式之前該考慮哪些事情
為什麼選擇開源方案？
策略考量
組織的AI架構
資料的重要性
模型類型
模型特性
成本與速度
授權條款
客製化
小型語言模型
結語
第二章 評估落差
LLM的不確定性
評估挑戰
設計LLMBA評估框架
評估方法
LLM效能評測簡介
ARC-AGI與ARC Prize
結語
第三章 LLM應用程式的評估工具
LangSmith
Promptfoo
LightEval
結語
第四章 從資料到脈絡
文件前處理
RAG
長脈絡模型是 RAG 的終結者嗎？
LCM案例研究：產生附有來源的考題
結語
第五章 輸出結構化的資料
結構化輸出為何重要
約束為何如此困難？Transformer架構
訓練期約束技術
推論期約束技術
結語
第六章 LLM安全考量
一般AI安全風險
LLM特有的安全風險
因應LLMBA安全風險
AI實驗室與政策中心的指引
讓LLM更安全的兩種具體方法
結語
第七章 評估LLM的安全性
利用評測資料集來評估安全
執行期護欄與內容審核
採用LLM-as-a-Judge的自訂審核
案例研究：建構K-12學生安全篩選器
結語
第八章 LLM校準：案例研究
為什麼需要校準？
RLHF：讓LLM值得信賴的關鍵突破
案例研究：讓LLM符合政策要求
設計安全與校準計畫
結語
第九章 結語：在成本持續下降的時代中的LLM應用
附錄 幫助你在本機部署LLM的工具
索引
