LLM：困難部分｜以開源AI方案解決開發難題 (Large Language Models: The Hard Parts: Open Source AI Solutions for Common Pitfalls)
Tharsis Souza , Jonathan Regenstein 著 agility studio 譯
- 出版商: 歐萊禮
- 出版日期: 2026-10-30
- 定價: $780
- 售價: 7.9 折 $616
- 語言: 繁體中文
- 頁數: 360
- ISBN: 6264254312
- ISBN-13: 9786264254311
-
相關分類:
Large language model、Natural Language Processing
- 此書翻譯自: Large Language Models: The Hard Parts: Open Source AI Solutions for Common Pitfalls (Paperback)
立即出貨 (庫存 > 10)
買這商品的人也買了...
-
無瑕的程式碼－整潔的軟體設計與架構篇 (Clean Architecture: A Craftsman's Guide to Software Structure and Design)$580$452 -
持續交付 2.0：實務導向的 DevOps$680$530 -
$448電力行業網絡安全——管理關鍵基礎設施 -
Ollama 本地 AI 全方位攻略：命令列功能、五大主題測試、RAG、Vibe Coding、MCP，一本搞定所有實戰應用$750$592 -
Vibe Coding - Cursor 教戰手冊$880$695 -
Vibe Coding CLI 頂級開發 - Claude Code 前瞻菁英育成手冊$1,080$853 -
MCP 開發全攻略：打造懂指令、會協作的 AI 系統$550$434 -
$421供應鏈安全與治理:基於關鍵信息基礎設施信息系統的實踐 -
n8n × Vibe Coding 本機 AI Agent 自動化工作流$880$695 -
Claude Code Vibe Coding 開發手冊, 2/e$850$671 -
$356SDD 實戰：規範驅動開發之道 -
Codex Vibe Coding 開發手冊$850$671 -
$369Kafka 理論與實戰 -
UX 策略寫作｜打造能驅動使用者互動、轉換與留存的文字系統, 2/e (Strategic Writing for UX: Drive Engagement, Conversion, and Retention with Every Word, 2/e)$600$474 -
現代 AI 全景聖經：多模態生成 × Agentic AI，從 LLM 演化到 AI 工程實戰$1,280$1,011 -
AI 時代的終端機入門：非工程師也能學會的 CLI、指令與 AI 工具實戰$720$568 -
最重要的 20個 AI Agent 實戰案例精彩直播$880$695 -
紫隊攻防演練：紅藍協作、對手模擬與偵測驗證實務$680$537 -
LLM 服務部署與最佳化實戰｜從系統建構到高效運行 (Hands-On LLM Serving and Optimization: Hosting Llms at Scale)$780$616 -
最強 AI 搜尋：SEO 零預算！掌握搜尋引擎真正的需求，為自己或企業創造數十倍到數百倍的能見度與營收【附贈網頁程式工具包】$480$379 -
零基礎 讓 AI 幫你寫 Python -- 用 Codex 把想法變成真$690$545 -
最強 AI 投資分析：散戶也能擁有自己的 AI 研究團隊，線圖辨識 × 策略回測 × 趨勢判讀 × 年報分析 × 智慧選股 × 資金配置$840$663 -
關鍵基礎設施安全防護法令與實務$380$361 -
諾貝爾物理學獎的 26 堂課：從宇宙、黑洞到量子與 AI，帶你認識改變人類世界的關鍵發現$500$390 -
資料密集型應用系統設計｜可靠、可擴展與可維護系統的關鍵原理, 2/e (Designing Data-Intensive Applications: The Big Ideas Behind Reliable, Scalable, and Maintainable Systems, 2/e)$1,200$948
相關主題
商品描述
「本書由兩位頂尖實踐者執筆，無論讀者程度如何，皆能從這一本必備指南中取得駕馭 LLM 的實用工具。」
Sudheer Chava，喬治亞理工學院金融服務創新實驗室主任、Alton M. Costley 講座教授
「本書深入探討現實 LLM 系統的棘手挑戰，並提供周全且務實的見解。」
Tomaso Aste，倫敦大學學院複雜科學教授
大型語言模型（LLM）徹底改變了自然語言處理流程，然而，當你在應用程式中部署它們時，也會面臨許多技術挑戰。本書清楚且務實地剖析了開發者與 AI 工程師建構 LLM 應用程式時面臨的難關。本書聚焦於實作陷阱，而非僅談論功能，並透過可重現的 Python 程式碼與開源工具來提供立即可用的策略。
本指南專為開發者與技術產品主管而寫，提供解決現實問題的方法，幫助讀者理解 LLM 的限制與取捨，進而突破應用程式評估、輸入管理、測試、安全…等關鍵障礙。
• 為非確定性系統設計測試策略與評估策略
• 管理脈絡、RAG 與長脈絡檢索
• 處理輸出不一致與結構不可靠的問題
• 建構安全與內容審核框架
• 探討校準挑戰與緩解方法
• 在本機上運用開源模型
作者簡介
Thársis T. P. Souza 是電腦科學家、作家，也是專門研發 AI 驅動產品的產品主管。他曾經在華爾街多家大型避險基金，以及矽谷新創公司擔任產品主管，並擁有倫敦大學學院（UCL）電腦科學博士學位。
Jonathan K. Regenstein, Jr. 的職涯橫跨資料、機器學習、科技與資產管理領域。他是喬治亞理工學院金融服務創新實驗室研究員，也是多家新創 AI 公司的顧問，擁有哈佛大學學士學位與紐約大學法學院法學博士學位。
目錄大綱
第一章 第一原理：在開始打造LLM應用程式之前該考慮哪些事情
為什麼選擇開源方案？
策略考量
組織的AI架構
資料的重要性
模型類型
模型特性
成本與速度
授權條款
客製化
小型語言模型
結語
第二章 評估落差
LLM的不確定性
評估挑戰
設計LLMBA評估框架
評估方法
LLM效能評測簡介
ARC-AGI與ARC Prize
結語
第三章 LLM應用程式的評估工具
LangSmith
Promptfoo
LightEval
結語
第四章 從資料到脈絡
文件前處理
RAG
長脈絡模型是 RAG 的終結者嗎？
LCM案例研究：產生附有來源的考題
結語
第五章 輸出結構化的資料
結構化輸出為何重要
約束為何如此困難？Transformer架構
訓練期約束技術
推論期約束技術
結語
第六章 LLM安全考量
一般AI安全風險
LLM特有的安全風險
因應LLMBA安全風險
AI實驗室與政策中心的指引
讓LLM更安全的兩種具體方法
結語
第七章 評估LLM的安全性
利用評測資料集來評估安全
執行期護欄與內容審核
採用LLM-as-a-Judge的自訂審核
案例研究：建構K-12學生安全篩選器
結語
第八章 LLM校準：案例研究
為什麼需要校準？
RLHF：讓LLM值得信賴的關鍵突破
案例研究：讓LLM符合政策要求
設計安全與校準計畫
結語
第九章 結語：在成本持續下降的時代中的LLM應用
附錄 幫助你在本機部署LLM的工具
索引
