相關主題
商品描述
隨著AI技術深度融入醫療、金融、交通等關鍵領域，其安全風險已從技術問題升級為關乎社會穩定與倫理的核心挑戰。本書以通俗易懂的“故事+對話”形式，揭開AI安全的神秘面紗，以“AI的攻防博弈”為主線，通過32個故事系統剖析AI時代的核心挑戰和解決方案。本書分為五篇，旨在幫助讀者構建AI安全認知體系。 篇從AI泄露用戶隱私、AI應用技術風險等案例切入，揭示AI安全的重要性，勾勒攻防戰場全貌；第二篇聚焦技術與管理雙重維度，深入模型魯棒性、可解釋性差、數據質量與數據投毒等九大核心問題，探討技術漏洞背後的倫理與法律困境；第三篇詳解對抗樣本、模型竊取攻擊等十一類攻擊手法，並給出對抗訓練、可解釋性工具等防護方案；第四篇展示AI如何賦能安全，包括安全大模型、AI代碼審計工具等，以及電信運營商實踐案例；第五篇聚焦AI安全行業動態與未來發展趨勢，展望AI安全在標準規範、產業研究方向的趨勢。本書適合AI行業的技術人員（網絡安全從業者、AI工程師）閱讀，也適合關註AI合規的企業管理者借鑒，還適合希望系統理解AI安全的高校師生與探索者學習。
作者簡介
馬潔，通信與運維管理 工程師、網絡與信息安全管理師（ ）、CISE、CISP-DSG、CCRC-DSO（數據安全官），中國信息通信研究院“數據安全共同體計劃專家庫”入庫專家，廣東省通信行業協會數據安全專業委員會委員，中國電信集團公司“ 集團級內訓師” “ 講師”，“2024數字中國創新大賽數據安全產業講師選拔賽”銀獎、 風采獎、 課件獎；第二屆“數信杯”數據安全講師賽銀獎；中國計算機行業協會網絡和數據安全專業委員會授予網絡和數據安全人才培養“ 講師”。出版譯著1本，發表專業相關論文9篇，承擔工作站重點課題3項，揭榜掛帥項目1項，其他重點管理及科研項目超20項。
目錄大綱
引子 安教授的AI安全第 一課 1
第 一篇 AI安全初探 5
故事1 AI的崛起：從圖靈測試到大模型 6
故事2 AI安全風險案例：AI的安全黑洞 15
故事3 AI安全的重要性：AI的守護使命 26
故事4 AI安全攻防全貌：AI的攻防戰場 37
第二篇 AI面臨的安全挑戰 47
故事5 AI模型的脆弱心臟：模型魯棒性問題 48
故事6 AI模型的黑箱之謎：可解釋性挑戰 57
故事7 AI數據的汙染危機：數據質量與數據投毒風險 66
故事8 AI算法的雙刃劍：漏洞、攻擊與濫用 77
故事9 AI的偏見：算法歧視與公平性 87
故事10 AI的責權：責任歸屬與法律挑戰 93
故事11 AI 化的隱憂：軍事化應用的安全風險 101
故事12 AI時代的數據隱私保護：技術與法規解析 108
故事13 AI應用的合規挑戰：各國規範性文件對比與發展趨勢 118
第三篇 AI安全攻防及應用 129
故事14 擾動輸入樣本：欺騙AI的魔術 130
故事15 數據投毒攻擊：汙染AI的源頭 140
故事16 模型竊取攻擊：偷走AI的大腦 150
故事17 後門攻擊：隱藏在AI中的 159
故事18 提升AI模型魯棒性：應對輸入樣本擾動 168
故事19 AI數據安全防護：防禦AI數據投毒 178
故事20 AI模型知識產權保護：防止模型竊取與濫用 188
故事21 AI系統安全加固：檢測與防禦後門攻擊 197
故事22 AI內容安全的“守門員”：虛假信息識別與多模態過濾 207
故事23 AI周邊安全的防護網：保障AI系統的安全 217
故事24 AI管理的“安全屋”：構建AI安全管理體系 225
第四篇 AI賦能安全 235
故事25 AI賦能安全攻防的“神兵利器”：關鍵技術解析 236
故事26 AI在安全測試中的利與弊：漏洞挖掘與代碼審計 245
故事27 AI賦能安全防禦：構建“銅墻鐵壁” 253
故事28 安全產業的變革者：重塑安全生態 262
故事29 安全設備和系統的升級者：提升安全能力 271
故事30 電信運營商AI安全實踐：實戰案例分享 280
第五篇 AI安全行業動態與發展趨勢 291
故事31 AI安全標準化組織：規則制定與發展 292
故事32 AI安全研究的風向標： 研究進展 301
後記 310
·真實案例驅動：融合電信、金融、醫療等多行業真實事件，將晦澀技術分解為鮮活故事，以此打破專業壁壘，零基礎也能輕松看懂AI安全風險與防禦邏輯。·內容覆蓋全面：從AI面臨的安全挑戰，到攻防技術與應用、AI賦能安全、業界動態與未來趨勢，不僅揭示AI如何被“黑”， 教你用AI打造防護體系。·聚焦前沿技術：深入解讀越獄攻擊、數據投毒、模型竊取等熱門威脅，覆蓋AI內生安全與衍生安全，緊跟技術前沿。·適合廣泛讀者：不管你是技術人員、管理者，還是單純對AI安全感興趣的“小白”，這本書都能帶你真正看懂AI安全背後的本質與實戰邏輯。
