人工智能安全與倫理

[美]奧馬爾·桑托斯（Omar Santos） [英]佩塔爾·拉丹列夫（Petar Radanliev）

人工智能安全與倫理 預覽內頁
  • 人工智能安全與倫理-preview-1
人工智能安全與倫理-preview-1

相關主題

商品描述

隨著人工智能技術在日常生活中的廣泛應用，其安全、隱私與倫理問題已不容忽視。本書系統闡述了人工智能的演進歷程與未來發展趨勢：從早期機器學習的開創性研究，到當前人工智能技術在各領域的實際應用，再到對未來社會的深遠影響，全面剖析了人工智能模型與實施方式。此外，本書深入探討了漏洞檢測的重要性，提供了對現實世界潛在風險的深刻洞察，並提出了保障人工智能安全的實踐建議。在推動人工智能技術發展的同時，本書也對問責制、隱私保護與倫理問題進行了深入探討，審視了監管與立法層面的現狀，並提出了對人工智能監管義務及其影響的批判性思考，涉及版權保護、專利及其他知識產權方面的挑戰。

本書適合人工智能相關政策制定者和法律從業者、網絡安全和人工智能領域的專業人士，以及計算機科學和網絡安全等專業的學生閱讀。

作者簡介

作者：

奧馬爾·桑托斯（Omar Santos）

一位網絡安全領域的思想領袖，致力於通過行業協作提升關鍵基礎設施的安全性。奧馬爾是DEF CON Red Team Village負責人、通用安全通告框架（CSAF）技術委員會主席、OpenEoX創始人、開放標準組織OASIS的董事會成員。奧馬爾與眾多組織都有合作，包括國際事件響應與安全組織論壇（FIRST）等。

佩塔爾·拉丹列夫（Petar Radanliev）

牛津大學計算機科學系博士後研究員。他曾在2014年獲得威爾士大學博士學位，在轉入牛津大學計算機科學系之前，他先後在倫敦帝國理工學院、劍橋大學、麻省理工學院、牛津大學工程科學系從事博士後研究。他目前的研究重點是人工智能、網絡安全、量子計算和區塊鏈技術。在進入學術界之前，佩塔爾·拉丹列夫博士在蘇格蘭皇家銀行（RBS）擔任了10年網絡安全經理，並在英國國防部擔任了5年首席滲透測試員。

譯者：

鄭燁婕

東方財富AI研究院高級研究員，兼任上海開源信息技術協會金融智能專委會秘書長、亞洲科技促進可持續發展目標聯盟理事。曾在商湯科技研究院和AI倫理委員會工作，長期致力於人工智能技術科研成果轉化與AI安全治理研究。作為主筆撰寫的AI可持續發展報告被聯合國《AI戰略資源指南》收錄，並出版人工智能治理專著《黑鏡與秩序：數智化風險社會下的人工智能倫理與治理》及其英文版AI Ethics and Governance：Black Mirror and Order，後者入圍Springer Nature中國新發展獎。

高世健

雲南林業職業技術學院副教授，碩士畢業於雲南大學，中國計算機學會（CCF）人工智能與模式識別專業委員會委員，CCF技術公益大使。目前主要研究方向是機器學習與多模態大模型。曾合作著有《Vague集理論研究及其應用》一書。

目錄大綱

第 1 章 人工智能與機器學習的歷史概述

1.1 伊娃的故事 002

1.2 人工智能的起源 003

1.3 人工智能的發展 005

1.4 理解人工智能和機器學習 008

1.5 伊娃故事的結局 026

1.6 小結 027

1.7 技能測試 028

第 2 章 人工智能和機器學習技術的基礎和應用

2.1 哪些是領先的人工智能和機器學習技術及算法？ 033

2.2 ChatGPT 與領先的人工智能及機器學習技術 ：探索能力與應用 041

2.3 了解兩類人工智能 ：基於能力的類別和基於功能的類別 050

2.4 案例研究 ：利用人工智能和機器學習應對現實世界的挑戰 051

2.5 反思人工智能技術的社會和倫理影響 052

2.6 評估人工智能和深度學習技術的未來趨勢和新興發展 054

2.7 小結 055

2.8 技能測試 056

第 3 章 生成式人工智能和大語言模型

3.1 生成式人工智能和大語言模型簡介 061

3.2 大語言模型 ：革新自然語言處理 082

3.3 Hugging Face 089

3.4 Auto-GPT ：自主人工智能應用的革命性突破 091

3.5 小結 091

3.6 技能測試 092

3.7 補充資料 097

第 4 章 人工智能和機器學習安全的基石

4.1 認識人工智能安全的必要性 098

4.2 對抗性攻擊 100

4.3 數據投毒攻擊 102

4.4 大語言模型的 OWASP 十大安全風險 104

4.5 成員推理攻擊 115

4.6 規避攻擊 121

4.7 模型逆向攻擊 125

4.8 後門攻擊 126

4.9 探索防禦措施 127

4.10 小結 128

4.11 技能測試 129

4.12 補充資料 130第 5 章 破解人工智能系統

5.1 破解 FakeMedAI 132

5.2 MITRE ATLAS 134

5.3 深入研究人工智能和機器學習攻擊的戰術與技術 136

5.4 運用提示詞註入 151

5.5 人工智能模型的紅隊測試 152

5.6 小結 152

5.7 技能測試 153

第 6 章 系統和基礎設施安全

6.1 人工智能系統的漏洞、風險及其潛在影響 156

6.2 AI BOM 164

6.3 數據安全漏洞 165

6.4 雲安全漏洞 167

6.5 人工智能系統的安全設計原則 170

6.6 人工智能模型安全 171

6.7 人工智能系統的基礎設施安全 172

6.8 人工智能系統的威脅檢測與事件響應 177

6.9 人工智能系統的額外安全技術與考量 180

6.10 小結 181

6.11 技能測試 182

6.12 補充資料 183

第 7 章 隱私與倫理：應對人工智能世界中的隱私與倫理挑戰

7.1 為什麼需要平衡人工智能的優勢與倫理風險及隱私問題？ 186

7.2 人工智能在隱私保護方面面臨哪些挑戰？在人工智能開發與應用

過程中，隱私和倫理的重要性何在？ 187

7.3 人工智能和 ChatGPT 的陰暗面 ：隱私問題與倫理影響 189

7.4 人工智能算法中的數據收集與存儲 ：潛在風險與倫理隱私問題 191

7.5 人工智能與 ChatGPT 的倫理網絡 198

7.6 保護隱私，釋放知識 ：數據安全時代的差分隱私與聯邦學習 209

7.7 機器的和諧 ：在人工智能系統中培養公平、多樣性和人類控制 210

7.8 現實案例研究和虛構故事 ：人工智能和 ChatGPT 中的隱私泄露 211

7.9 小結 218

7.10 技能測試 219

第 8 章 人工智能系統的法律與合規

8.1 法律和監管環境 225

8.2 遵守人工智能法律和數據保護法規 227

8.3 對話式人工智能的知識產權問題 229

8.4 解讀人工智能時代的責任與問責制 231

8.5 人工智能系統的合理開發與應用 ：有效治理和風險管理戰略 235

8.6 人工智能領域的國際合作與標準 238

8.7 人工智能合規的未來趨勢與展望 240

8.8 釋放量子風暴 ：2050 年英國牛津的人工智能網絡安全、量子計算與

新型網絡攻擊的虛構故事 243

8.9 小結 244

8.10 技能測試 245

補充閱讀 附錄

類似商品