生成式 AI 應用開發：基於 OpenAI API 實現

陳禎民

工程師，前抖音內容安全、Trae AI成員，字節跳動青訓營講師，掘金簽約作者，著有掘金小冊《SSR實戰：官網開發指南》、《前端自動化測試精講》、《Trae入門到實踐：AI編碼的妙筆生花》。

▌第1 章　緒論

1.1 AGI 的新時代已經到來

1.2 ChatGPT 全景介紹：歷史、原理與API

1.2.1 GPT 模型的基本概念和發展歷程

1.2.2 GPT 為什麼能做到跨領域與人互動

1.2.3 OpenAI API 簡介

1.3 生成式AI 應用的市場前景

1.4 本書的內容安排

 

▌第2 章　OpenAI API 請求函式庫

2.1 OpenAI API

2.1.1 OpenAI API 提供的模型類別

2.1.2 在瀏覽器端實現文字轉音訊

2.1.3 在Node.js 執行時期實現文字轉音訊

2.1.4 音訊轉文字的實現

2.2 Chat 系列OpenAI API 端點

2.2.1 Chat 系列API 端點參數及使用

2.2.2 Chat API 的串流回應

2.3 API 請求函式庫

2.3.1 使用OpenAI 請求函式庫

2.3.2 實戰：封裝並發佈一個大語言模型API 的請求函式庫

2.3.3 ChatGPT 可用免費API 轉發開放原始碼倉庫：GPT-API-free

2.4 本章小結

 

▌第3 章　基礎應用：ChatGPT 的實現

3.1 專案初始化和產品功能拆解

3.1.1 專案初始化

3.1.2 產品功能拆解

3.2 ChatGPT 靜態互動的實現

3.2.1 右側ChatGPT 對話區域

3.2.2 左側邊欄區域（Chat 資訊和API_KEY 填寫）

3.3 ChatGPT 可互動功能的補充

3.3.1 使用llm-request 連線OpenAI API

3.3.2 New Chat 事件的綁定

3.3.3 聊天記錄的快取

3.3.4 回應內容的豐富文字處理（換行、程式突顯、程式複製）

3.3.5 思考題：如何避免在請求中暴露API_KEY

3.4 建立不同角色類別的聊天

3.4.1 什麼是System Prompt

3.4.2 為ChatGPT 專案放開System Prompt 的填寫

3.4.3 範例：建立布布熊的虛擬女友一二熊

3.5 社區功能：跨平臺ChatGPT 應用—ChatGPT Next Web

3.5.1 初識ChatGPT Next Web

3.5.2 使用Vercel 把ChatGPT Next Web 部署到公網

3.6 本章小結

 

▌第4 章　互動應用：整合AI 模型功能到飛書機器人

4.1 建立飛書機器人

4.1.1 飛書開放平臺

4.1.2 建立一個飛書機器人一二熊

4.2 飛書機器人的API 服務

4.2.1 飛書機器人API 服務的事件訂閱

4.2.2 開發階段：使用反向代理工具Ngrok 對本機服務進行內網穿透

4.2.3 訂閱message 接收事件並回應

4.2.4 部署上線：使用Vercel Serverless Functions 輕服務部署

4.3 支援一二熊的訊息回覆

4.3.1 支援一二熊的單聊回覆訊息

4.3.2 支援一二熊在群聊中回覆訊息

4.3.3 使用自訂訊息卡片配置說明文件

4.4 結合AI 實現一二熊的辦公協助工具

4.4.1 支援對飛書文件內容進行總結

4.4.2 支援向指定人員發送訊息通知

4.4.3 支援向指定群發送訊息通知

4.4.4 支援自動拉群並說明拉群用意

4.4.5 支援建立任務並自動生成任務摘要

4.5 本章小結

 

▌第5 章　VSCode 自訂外掛程式

5.1 AI 在程式輔助領域的實施

5.1.1 ChatGPT 出色的程式協助工具

5.1.2 OpenAI API 與IDE 外掛程式的結合

5.2 初識VSCode 外掛程式開發

5.2.1 VSCode 外掛程式初始化

5.2.2 VSCode 外掛程式的目錄結構及檔案剖析

5.2.3 VSCode 外掛程式的啟動與本地偵錯

5.2.4 VSCode 外掛程式中單元測試的環境API mock

5.3 VSCode 外掛程式開發常用擴充功能

5.3.1 外掛程式命令

5.3.2 選單項

5.3.3 外掛程式配置項

5.3.4 按鍵綁定

5.3.5 訊息通知

5.3.6 收集使用者輸入

5.3.7 檔案選擇器

5.3.8 建立進度指示器

5.3.9 診斷和快速修復

5.4 特殊判斷值when 子句

5.4.1 when 子句運算子

5.4.2 when 子句內建環境變數

5.4.3 自訂when 子句環境變數

5.5 VSCode 外掛程式支援的工作環境空間

5.5.1 活動欄區域：視圖容器

5.5.2 側邊欄區域：樹狀檢視

5.5.3 狀態列區域：狀態列項目

5.5.4 編輯器組區域：網頁視圖

5.6 使用React 開發Webview

5.6.1 Webview 的React 開發配置

5.6.2 Webview 和Extension 的相互通訊

5.6.3 Webview 的開發者偵錯

5.7 VSCode 外掛程式的聯動與發佈

5.7.1 擴充相依外掛程式

5.7.2 VSCode 外掛程式的發佈

5.8 本章小結

 

▌第6 章　程式設計應用：AI 程式開發輔助外掛程式

6.1 在VSCode 外掛程式中實現ChatGPT

6.1.1 專案初始化

6.1.2 外掛程式功能剖析

6.1.3 外掛程式功能配置項註冊

6.1.4 工作列註冊

6.1.5 快取首頁的實現

6.1.6 聊天頁面的實現

6.2 程式語言轉換工具

6.2.1 外掛程式功能剖析

6.2.2 外掛程式功能配置項註冊

6.2.3 支援全檔案語言轉換

6.2.4 支援對全檔案語言轉換結果的追問

6.2.5 支援局部程式語言轉換

6.3 程式審查工具

6.3.1 外掛程式功能剖析

6.3.2 外掛程式功能的配置項註冊

6.3.3 支援單檔案粒度程式AI 診斷

6.3.4 人工的診斷行列匹配

6.3.5 支援對問題程式的AI 快速修復

6.3.6 支援狀態列狀態顯示

6.4 本章小結

 

▌第7 章　Hugging Face 開放原始碼模型的私有化部署和微調

7.1 模型私有化部署

7.1.1 什麼是模型私有化部署

7.1.2 使用Anaconda 管理Python 環境

7.1.3 私有化部署ChatGLM3-6B 模型

7.1.4 ChatGLM3-6B 模型的低成本部署

7.2 模型微調

7.2.1 什麼是模型微調

7.2.2 對ChatGLM3-6B 模型進行單機單卡P-Tuning

7.3 開放原始碼AI 社區Hugging Face

7.3.1 什麼是Hugging Face

7.3.2 機器學習函式庫Transformers

7.4 本章小結

 

▌第8 章　檢索增強生成技術：向量化與大模型的結合

8.1 檢索增強生成技術介紹

8.1.1 訓練模型是一個高成本的過程

8.1.2 檢索增強生成技術：低成本資訊穿透的實現

8.2 文字向量化

8.2.1 什麼是文字向量化

8.2.2 OpenAI 提供的文字向量化功能

8.2.3 私有化部署Hugging Face 向量化模型

8.3 向量資料庫Chroma

8.3.1 什麼是向量資料庫Chroma

8.3.2 文字向量化及相似度匹配的範例

8.3.3 集合API

8.3.4 相似度距離計算方法

8.3.5 embeddings 向量化函式

8.4 實戰：為ChatGPT 提供知識庫功能

8.4.1 知識庫整體功能剖析

8.4.2 支援檔案上傳至知識庫

8.4.3 支援包含相似搜尋的詢問模式

8.5 本章小結

 

▌第9 章　提示詞工程與LL 社區生態

9.1 提示詞工程

9.1.1 英文組織提示詞

9.1.2 明確輸入和輸出

9.1.3 輔助推理鍵

9.1.4 特殊或生僻場景提供範例

9.1.5 分治法：減小模型介入問題的粒度

9.1.6 結構化組織提示詞

9.2 Chat 大模型

9.2.1 文心一言

9.2.2 通義千問

9.2.3 豆包

9.2.4 元寶

9.2.5 Kimi

9.3 AI 應用架設平臺Coze

9.3.1 什麼是Coze

9.3.2 基礎使用

9.3.3 高階功能

9.3.4 Coze 應用的API 呼叫

9.4 本章小結