大模型100問:面試通關,沖刺百萬年薪

沈煒,王焱

  • 出版商: 電子工業
  • 出版日期: 2026-09-01
  • 售價: $300
  • 語言: 簡體中文
  • ISBN: 7121535106
  • ISBN-13: 9787121535109
  • 相關分類: Large language model
  • 下單後立即進貨 (約4週~6週)

相關主題

商品描述

本書共收錄了大模型面試中的119道高頻問題。全書分為6章,其中的面試問題分別涉及:大模型的基礎知識,包括模型推理、訓練數據、上下文學習、MoE模型等;大模型預訓練相關知識,包括預訓練數據、訓練策略與基準測試等;大模型監督微調方法與實踐,包括微調數據、微調訓練等;基於人類反饋的強化學習的算法與訓練優化方法,包括DPO、PPO、強化學習、獎勵模型等;大模型長文本處理技術,包括位置編碼與長上下文能力優化等;多模態大模型的架構設計及其對齊方法等。

本書適合正在準備大模型相關崗位面試的算法工程師、研究員或相關專業學生閱讀,用於系統備考、查漏補缺。無論是求職沖刺,還是技術體系梳理,本書都是實用的參考資料。

作者簡介

沈煒,曾在字節跳動Seed團隊、文心一言擔任算法研究員,主要研究方向為大模型後訓練、NL2Code和離線強化學習等。曾獲ICDM Best Student Paper Runner-up、DataCastle Master Award等獎項,曾參與OpenRLHF、Reinforce++等開源項目,知乎“百面LLM”專欄作者。曾在NIPS、ICML和ICLR等CCF-A類會議上以一作或共同一作的身份發表多篇大模型主題的高質量論文。


王焱,大模型領域頭部知識博主,現為初創公司CTO。從零開始做過預訓練,從零開始搭建過日活躍用戶數為千萬的推薦系統。在大模型後訓練方面具有豐富的清洗與標註經驗,所訓練的模型每天有億級調用量。

目錄大綱

第1章  大模型基礎知識 1
1.1  模型推理相關問題 1
1.2  訓練數據相關問題 28
1.3  上下文學習相關問題 29
1.4  其他問題 37
1.5  MoE模型相關問題 55


第2章  預訓練知識 65
2.1  預訓練數據相關問題 65
2.2  預訓練的訓練策略相關問題 70
2.3  預訓練基準測試相關問題 74


第3章  監督微調知識 77
3.1  微調數據相關問題 77
3.2  微調訓練相關問題 91
3.3  其他問題 96


第4章  RLHF知識 98
4.1  DPO相關問題 98
4.2  PPO相關問題 105
4.3  強化學習相關問題 117
4.4  獎勵模型相關問題 149


第5章  長文本知識 157
5.1  位置編碼問題 157
5.2  長文本能力優化相關問題 176


第6章  多模態知識 178
6.1  多模態大模型相關問題 178
6.2  多模態對齊相關問題 183