Token服務實戰

劉鵬,劉思成

  • 出版商: 中國水利水電出版社
  • 出版日期: 2026-07-01
  • 售價: $768
  • 語言: 簡體中文
  • ISBN: 7522646863
  • ISBN-13: 9787522646862
  • 相關分類: AI Coding
  • 下單後立即進貨 (約4週~6週)

相關主題

商品描述

流量紅利逐漸消退,Token行業已從流量驅動轉向效率驅動,工程效率決定盈利上限。

針對行業普遍存在的顯存溢出、算力閒置、延遲超標、集群故障等核心挑戰,本書立足真實生產場景,打造了一套完整的 Token 工程落地體系。全書聚焦算力芯片選型、電力與散熱工程體系、底層環境標準化搭建、Token服務商的模型選型、模型量化與壓縮、主流推理引擎深耕、KV緩存深度調優、分布式推理架構、全鏈路智能調度、場景化微調工程等核心模塊,兼顧NVIDIA、國產昇騰、平頭哥等多類算力生態,覆蓋單機、異構集群、萬卡超級工廠等不同部署規模,圍繞降本、提效、穩服、增益四大目標,構建標準化、可量產的技術方案。

本書從單節點部署到萬卡級分布式集群,從芯片硬件精算到KV緩存深度優化,助力從業者壓減Token生產邊際成本,釋放算力價值,在存量競爭中實現收益倍增。

本書面向Token服務技術決策者、算力運維工程師、AI基礎設施開發者及創業公司技術負責人,無論你是從零搭建推理集群,還是優化萬卡級算力中心,都能找到從硬件選型到生產調優的實戰參考。

作者簡介

劉鵬,清華大學博士,某上市公司董事長,兼任中國大數據應用聯盟人工智能專家委員會主任、中國信息協會教育分會人工智能教育專家組長、教育部全國普通高校畢業生就業創業指導委員會委員、全國大學生數學建模競賽命題人、第45屆世界技能大賽中國雲計算專家指導組組長、中國電子學會雲計算專家委員會雲存儲組組長、工信部雲計算研究中心專家。在雲計算 等領域造詣深厚,獲全球大數據處理賽冠軍等多項榮譽。主持40餘項科研項目,獲6項部級二等獎、3 項三等獎。發表80餘篇論文,授權超66項專利。出版的人工智能、大數據教材被高校廣泛采用,創辦相關領域門戶網站。

劉思成,2006年生,Z世代AGI開發者。9歲獲無人機體感操控系統國家專利;12歲著《小天才學Python》,被多校選作教材並出第二版;13歲公益直播編程課,數千兒童受益;15歲獲VR萬向運動機美國專利及預防AI幹預外界方法中國專利;2025年實現創新型 WENG-Ontokinetics AGI原型,創新性地融合了張力驅動認知、概念幾何學和元推理引擎,並通過實驗數據驗證了其在認知躍遷、自主進化和洞見生成方面的能力。。