聯邦學習

"韓宇星，清華大學深圳國際研究生院長聘副教授、博士生導師。近5年發表SCI源刊論文50余篇。長期從事聯邦學習的教學和科研工作，講授“聯邦學習”等課程。主持多項國家級、省部級項目，榮獲多項省部級獎勵。楊強，加拿大工程院及加拿大皇家學院院士，香港理工大學人工智能高等研究院院長，香港科技大學榮休教授，微眾銀行首席人工智能官（榮休），AAAI-2021大會主席，國際人工智能聯合會理事會前主席，中國人工智能學會常務副理事長。長期從事聯邦學習和遷移學習的教學和科研工作。近5年發表SCI源刊論文百余篇。獲2017年ACM SIGKDD傑出服務獎及2023年IJCAI Donald E.Walker傑出服務獎。出版《遷移學習》、《聯邦學習》、《隱私計算》和《聯邦學習實戰》等著作。"

 

目錄

第 1章聯邦學習基礎 ..............................................................1 

1.1聯邦學習概述 

.....................................................................................2 

 

1.

1.1聯邦學習背景 ...........................................................................2 

 

1.

1.2聯邦學習定義與分類.................................................................3 

 

1.

1.3聯邦學習發展與現狀.................................................................4 

 

 

 

1.

2系統模型與威脅模型 ...........................................................................7 

 

1.

2.1聯邦學習系統結構 ....................................................................7 

 

1.

2.2聯邦學習威脅模型 ....................................................................8 

 

 

 

1.

3聯邦學習系統目標...............................................................................9 

 

1.3.1隱私目標

..................................................................................9 

 

1.3.2安全目標

................................................................................ 10 

 

1.

3.3多目標平衡 ............................................................................ 11 

 

1.

3.4貢獻度評估 ............................................................................ 12

 

 

 

 

第 2章聯邦學習與隱私安全 .................................................. 14 

2.

1隱私安全問題定義............................................................................. 15 

 

2.

1.1機器學習隱私問題與安全問題.................................................. 15 

 

2.

1.2攻擊與防護對象...................................................................... 16 

 

 

 

2.

2聯邦學習隱私安全威脅 ...................................................................... 17 

 

2.

2.1面向數據隱私的威脅攻擊 ........................................................ 17 

 

2.

2.2面向模型安全的威脅攻擊 ........................................................ 19 

 

2.

2.3面向模型版權的威脅攻擊 ........................................................ 20 

 

 

 

2.

3聯邦學習隱私安全保護方法 ............................................................... 24 

 

2.3.1差分隱私

................................................................................ 24 

 

2.

3.2安全多方計算 ......................................................................... 25 

 

2.3.3同態加密

................................................................................ 26 

 

2.

3.4模型版權保護技術 .................................................................. 27

 

 

 

 

第 3章個性化聯邦學習......................................................... 33 

3.

1非獨立同分布問題與個性化學習的必要性 ........................................... 34 

 

3.

2聯邦學習個性化方法 ......................................................................... 35 

 

3.

2.1基於客戶端選擇的方案............................................................ 35 

 

3.

2.2基於元學習的方案 .................................................................. 35 

 

3.

2.3 基於正則化的方案 .................................................................. 36 

 

3.

2.4 基於蒸餾的方案...................................................................... 37

 

 

 

 

 

第 4 章聯邦學習貢獻度評估 .................................................. 39 

4.

1貢獻度評估的重要性與挑戰 ............................................................... 40 

 

4.

2貢獻度評估標準與公平性................................................................... 41 

 

4.2.1 基於 

Shapley值的貢獻評估方法 .............................................. 41 

 

4.

2.2 基於距離的貢獻度評估方法 ..................................................... 41 

 

4.2.3 評價指標

................................................................................ 42 

 

 

 

4.

3聯邦學習貢獻度評估方法................................................................... 43 

 

4.3.1 基於 

Shapley值的貢獻度評估方法........................................... 43 

 

4.

3.2 基於距離的貢獻度評估方法 ..................................................... 45

 

 

 

 

第 5 章聯邦學習與大模型 ..................................................... 47 

5.1聯邦大模型

....................................................................................... 48 

 

5.

1.1 大模型預訓練與聯邦學習 ........................................................ 49 

 

5.

1.2 大模型微調與聯邦學習............................................................ 50 

 

5.

1.3 聯邦大模型應用研究 ............................................................... 53 

 

 

 

5.2聯邦遷移學習 

................................................................................... 56 

 

 

5.2.1 聯邦遷移學習背景 .................................................................. 56  FDKT ................................................................................... 57 

5.2.2 AUG-PE................................................................................ 60

5.2.3 InferDPT............................................................................... 61

5.2.4 FedMKT................................................................................ 62

5.2.5 

5.2.6 聯邦遷移學習展望 .................................................................. 63

第 6 章聯邦學習與拜占庭問題............................................... 65 

6.

1聯邦學習的安全威脅 ......................................................................... 66 

 

6.

1.1 常見的聯邦學習安全問題 ........................................................ 66 

 

6.

1.2 拜占庭攻擊 ............................................................................ 67 

 

6.

1.3 聯邦學習與傳統分布式學習中的安全問題對比 .......................... 68 

 

 

 

6.

2拜占庭攻擊策略 ................................................................................ 69 

 

 

6.2.1 隨機攻擊................................................................................ 69 

VIII 

 

6.

2.2惡意客戶端的攻擊 .................................................................. 71 

 

6.

2.3模型性能的影響及潛在危害 ..................................................... 72 

 

 

6.

3拜占庭防禦機制 ................................................................................ 73 

 

6.

3.1基於冗余的防禦方法............................................................... 73 

 

6.

3.2基於信譽評分的防禦方法 ........................................................ 75 

 

6.

3.3基於投票的防禦方法 ............................................................... 75 

 

6.

3.4基於驗證的防禦方法 ............................................................... 76 

 

6.

3.5基於對抗訓練的防禦方法 ........................................................ 76 

 

 

 

6.

4拜占庭攻擊與防禦的具體案例和策略 .................................................. 77 

 

6.

4.1拜占庭將軍問題與拜占庭容錯算法 ........................................... 77 

 

6.

4.2帶有對手的機器學習：拜占庭容錯的隨機梯度下降.................... 78 

 

6.

4.3數據異構性下的拜占庭防禦 ..................................................... 82

 

 

 

 

第 7章聯邦學習的應用......................................................... 85 

7.1聯邦學習與 

FATE............................................................................. 86 

 

7.

2在醫療領域的應用............................................................................. 88 

 

7.

2.1新冠病毒檢測應用案例............................................................ 88 

 

7.

2.2遠程醫療監控應用案例............................................................ 89 

 

7.

2.3醫療圖像應用案例 .................................................................. 90 

 

7.

2.4醫療防護應用案例 .................................................................. 92 

 

 

 

7.

3在邊緣計算領域的應用 ...................................................................... 96 

 

7.3.1 

5G電信應用案例 ................................................................... 96 

 

7.

3.2車載網絡應用案例 .................................................................. 97 

 

7.

3.3跨境支付應用案例 .................................................................. 98 

 

7.

3.4無人機應用案例...................................................................... 98 

 

 

 

7.

4在推薦系統領域的應用 .....................................................................100 

 

7.

4.1商品推薦應用案例 .................................................................100 

 

7.

4.2新聞推薦應用案例 .................................................................103 

 

 

 

7.

5在金融領域的應用............................................................................104 

 

7.

5.1反洗錢應用案例.....................................................................105 

 

7.

5.2信用卡欺詐檢測應用案例 .......................................................106 

 

 

 

7.

6聯邦大小模型系統的應用..................................................................108 

 

 

IX 

 

7.

6.1智能監控雲邊協同應用案例 ....................................................111 

 

7.

6.2自動駕駛雲邊協同應用案例 ....................................................112 

 

7.

6.3工業物聯網雲邊協同應用案例.................................................113 

 

7.

6.4智慧醫療雲邊協同應用案例 ....................................................115

 

 

參考文獻 ................................................................................117