生成式AI安全：GenAI驅動的智能安全體系
張棟
- 出版商: 機械工業
- 出版日期: 2025-06-01
- 售價: $534
- 語言: 簡體中文
- 頁數: 174
- ISBN: 7111782674
- ISBN-13: 9787111782674
下單後立即進貨 (約4週~6週)
相關主題
商品描述
這是一本全面解析生成式AI安全的前瞻性著作，系統講解了生成式AI的技術原理、安全風險與防護體系。從技術基礎到發展趨勢，從安全原理到治理框架，從應用實踐到內生安全，本書將為讀者構建前瞻、系統的生成式AI安全知識體系。 具體內容上，全書分為4個部分： 部分（ ～3章） 介紹了GenAI的基本概念、核心技術及其在不同領域的應用現狀與前景。在這一部分中，讀者將了解GenAI與其他AI技術的區別，特別是LLM、GAN等技術如何推動GenAI的創新發展。同時，本部分還探討了GenAI在醫療保健、金融服務、教育等領域的成功應用，展示了它如何通過智能生成提高效率、增強個性化服務，並解決一些傳統技術無法應對的問題。 第二部分（第4和5章） 重點探討了GenAI在網絡安全領域的應用及安全隱患。GenAI已經在惡意代碼生成、深度偽造等方面展現出強大的技術能力，但這些技術一旦被惡意使用，其影響將是災難性的。還詳細分析了GenAI在網絡安全生命周期中的影響，並給出了相應的實踐案例。 第三部分（第6和7章） 探討了GenAI的內生安全風險。伴隨著技術的發展，生成模型的覆雜性和自主性不斷提高，傳統的安全防護措施已難以應對新興的智能攻擊與威脅。從NIST AI RMF出發，探討了如何從風險管理、合規性、價值觀對齊等角度來確保GenAI的安全。 第四部分（第8和9章） 展望了AGI（通用人工智能）在未來可能帶來的風險和挑戰。隨著AI智能水平的逐漸提升，AI失控的風險逐漸成為現實威脅，特別是當智能系統的決策能力超出人類控制時。深入探討了在通往AGI的道路上，如何通過技術創新、政策引導和倫理框架的建立，確保AI的安全發展。
作者簡介
張棟， 安全專家，從業近10年，曾就職於中興通訊公司，現就職於 頭部終端智能公司，擔任AI安全研究員，負責AIGC安全相關的研究和實踐，積累了豐富的經驗。<br />持有CISSP（Certified Information Systems Security Professional，註冊信息系統安全專業人員）認證，獲得 網絡安全中級職稱。多篇LLM安全與對抗主題論文的作者，兼具傳統數據安全與生成式 AI 風險研究背景，擅長跨學科方法論。
目錄大綱
前 言
第一部分 GenAI：從基礎到前沿
第1章 GenAI概述 3
1.1 GenAI的產生 3
1.1.1 AI的發展歷程 3
1.1.2 什麼是GenAI 5
1.1.3 與GenAI相關的核心概念 6
1.2 GenAI與其他AI類型的比較 8
1.2.1 GenAI與基於規則的AI 8
1.2.2 GenAI與專家系統 9
1.2.3 GenAI與演化算法 11
1.3 GenAI帶來變革的本質原因 13
1.4 GenAI在不同領域的應用 18
1.4.1 醫療保健 18
1.4.2 金融服務 20
1.4.3 教育 21
1.4.4 網絡安全 22
1.4.5 娛樂與媒體 23
1.5 GenAI的挑戰與未來發展 24
1.5.1 AI的擴張與失控風險 24
1.5.2 兩種思潮：有效加速主義
與有效利他主義 26
1.5.3 應對風險的策略：從倫理
到技術 27
1.5.4 GenAI的未來發展 28
第2章 GenAI的關聯學科及
應用 29
2.1 GenAI與自然語言處理 29
2.2 GenAI與數據科學 33
2.3 GenAI與人腦認知科學 36
2.4 GenAI與決策科學 38
2.5 GenAI與覆雜性科學 40
第3章 GenAI的核心技術 43
3.1 GenAI的核心算法和架構 43
3.1.1 生成模型的算法 43
3.1.2 生成對抗網絡 44
3.1.3 變分自編碼器 45
3.1.4 循環神經網絡 46
3.1.5 遞歸生成網絡 47
3.1.6 Transformer 48
3.1.7 強化學習 49
3.2 生成模型解析：從數據到
部署的系統化框架 51
3.3 GenAI模型評價指標 52
3.4 GenAI技術的下一步發展：
多模態與AI Agent 54
3.4.1 多模態 54
3.4.2 AI Agent 55
第二部分 未來防禦：GenAI與
網絡安全
第4章 GenAI在網絡安全中的
發展 59
4.1 網絡安全概述 59
4.2 GenAI在網絡安全中的應用
與挑戰 61
4.2.1 虛假新聞生成 61
4.2.2 深度偽造技術濫用 62
4.2.3 自動化網絡攻擊 63
4.2.4 人工智能對抗攻擊 65
4.3 GenAI對網絡安全的影響 66
第5章 GenAI在網絡安全生命
周期中的影響與實踐 68
5.1 安全和風險管理 68
5.1.1 背景 68
5.1.2 挑戰 69
5.1.3 應用 71
5.1.4 案例 72
5.2 資產安全 75
5.2.1 背景 75
5.2.2 挑戰 77
5.2.3 應用 78
5.2.4 案例 79
5.3 安全架構和工程 81
5.3.1 背景 81
5.3.2 挑戰 83
5.3.3 應用 84
5.3.4 案例 84
5.4 身份識別和訪問管理 88
5.4.1 背景 89
5.4.2 挑戰 91
5.4.3 應用 91
5.4.4 案例 92
5.5 安全評估和測試 94
5.5.1 背景 94
5.5.2 挑戰 95
5.5.3 應用 96
5.5.4 案例 97
5.6 安全運營 98
5.6.1 背景 99
5.6.2 挑戰 99
5.6.3 應用 101
5.6.4 案例 101
5.7 軟件開發安全 102
5.7.1 背景 103
5.7.2 挑戰 104
5.7.3 應用 105
5.7.4 案例 106
第三部分 面對未知：GenAI的
內生安全風險
第6章 GenAI的內生安全
風險概述 111
6.1 GenAI面臨的內生安全
風險 111
6.2 價值觀對齊與AI倫理 116
第7章 GenAI的內生安全：
基於NIST AI RMF的
風險評估與實踐 122
7.1 NIST AI RMF概述 122
7.2 GenAI系統風險評估過程
中的挑戰 125
7.3 風險控制關鍵措施 127
7.3.1 風險映射：明確風險來源
與影響邊界 127
7.3.2 風險度量：量化評估
與優先級排序 128
7.3.3 風險管理：組織層面的
資源分配與持續治理 129
7.3.4 場景化應用方案：貼合
實際與法規要求 130
7.3.5 測試-評估-驗證-確認：
技術流程中的性能檢測與
法律遵從 131
7.3.6 人機交互的覆雜性與風險
應對 132
7.4 NIST AI RMF與大模型
價值觀對齊的實踐 133
7.4.1 NIST AI RMF對於價
值觀對齊的總體思路 133
7.4.2 GenAI價值觀對齊中的
核心技術 135
7.4.3 安全有監督微調與人類
反饋強化學習的局限性 140
7.4.4 價值觀對齊技術的發展
趨勢 141
第四部分 在邊緣跳舞：AGI的
雙面未來
第8章 從幻想到現實：AGI與
智能自主系統 147
8.1 什麼是AGI 147
8.2 什麼是意識 150
8.3 管理主動型AI系統風險的
實踐 156
8.4 智能自主系統帶來的挑戰 160
第9章 新型智慧崛起：從LLM
到多元智能的進化與
風險 165
9.1 AI是一種新的智慧形態 166
9.2 從覆雜性與因果理論看GenAI
的不可解釋性 167
9.3 如何控制更高級的智慧
形態 169
9.3.1 基於有限的規則無法
約束AI的行為 169
9.3.2 通過人機協作探索對於
AI的控制 170
9.4 智能的進化與風險 172
