Meta Learning 學習者手記

王文峰，上海應用技術大學電氣學院高級工程師，中國大數據與智能計算產業聯盟理事。主要從事類腦學習與認知計算研究，側重數學跨學科應用，目前已涉及計算機視覺、機器人、安防、生態、地理、醫學等領域。兼任國家自然科學基金評審專家（面上項目類）、第三腦研究院（美國）資深客座研究員、Springer/IEEE旗下多個國際會議委員和分會場主席、多個SCI期刊審稿專家。

 

目錄

 

 

 

第1章聯合訓練問題

 

1.1問題描述

 

1.1.1以任務為樣本

 

1.1.2面向學習過程

 

1.1.3快速適應新任務

 

1.2建模思路

 

1.2.1局部最優模型

 

1.2.2全局最優模型

 

1.2.3模型前置代碼

 

1.3算法思想

 

1.3.1外層循環算法

 

1.3.2內層循環算法

 

1.3.3權重更新代碼

 

1.4最優化方法

 

1.4.1準備優化工具

 

1.4.2搭建優化平臺

 

1.4.3最優化科學計算包

 

1.5元優化機制

 

1.5.1環境變量的配置

 

1.5.2環境變量的驗證

 

1.5.3元優化機制

 

第2章任務構建問題

 

2.1問題描述

 

2.1.1小樣本單元

 

2.1.2有限監督數據

 

2.1.3支撐集與查詢集

 

2.2建模思路

 

2.2.1任務分佈模型

 

2.2.2監督學習模型

 

2.2.3模型前置代碼

 

2.3算法思想

 

2.3.1單元劃分算法

 

2.3.2標簽分配算法

 

2.3.3任務生成算法

 

2.4最優化方法

 

2.4.1創建優化環境

 

2.4.2更新優化系統

 

2.4.3安裝編程內核

 

2.5元優化機制

 

2.5.1代碼編輯器

 

2.5.2元優化程序

 

2.5.3元優化機制

 

第3章過程建模問題

 

3.1問題描述

 

3.1.1基準數據集

 

3.1.2圖像尺寸調整

 

3.1.3知識獲取過程

 

3.2建模思路

 

3.2.1圖像加載模型

 

3.2.2尺寸調整模型

 

3.2.3空間插值模型

 

3.3算法思想

 

3.3.1文件保存算法

 

3.3.2目錄創建算法

 

3.3.3文件讀取算法

 

3.4最優化方法

 

3.4.1隨機抽樣過程

 

3.4.2樣本學習過程

 

3.4.3最優化過程

 

3.5元優化機制

 

3.5.1元優化過程

 

3.5.2拓展優化環境

 

3.5.3最大池化過程

 

第4章輸入輸出問題

 

4.1問題描述

 

4.1.1源代碼下載

 

4.1.2免費授權許可

 

4.1.3代碼的組成部分

 

4.2建模思路

 

4.2.1系統架構模型

 

4.2.2輸入輸出模型

 

4.2.3輸出評價模型

 

4.3算法思想

 

4.3.1輸入生成算法

 

4.3.2輸出生成算法

 

4.3.3運行控制算法

 

4.4最優化方法

 

4.4.1優化庫包的導入

 

4.4.2生成器的初始化

 

4.4.3目錄的生成

 

4.5元優化機制

 

4.5.1元優化目錄

 

4.5.2元優化的輸入

 

4.5.3元優化的輸出

 

第5章應用拓展問題

 

5.1問題描述

 

5.1.1前述問題回顧

 

5.1.2元學習系統網絡

 

5.1.3MAML的定義

 

5.2建模思路

 

5.2.1系統模型拓展

 

5.2.2梯度模型拓展

 

5.2.3快速梯度下降

 

5.3算法思想

 

5.3.1輸入層的權值

 

5.3.2隱含層的權值

 

5.3.3網絡構造算法

 

5.3.4從捲積層拓展

 

5.3.5從隱含層拓展

 

5.4最優化方法

 

5.4.1學習日誌的拓展

 

5.4.2日誌讀取應用

 

5.4.3優化器的拓展

 

5.4.4優化器的應用

 

5.4.5顯示優化過程

 

5.5元優化機制

 

5.5.1虛擬環境的拓展

 

5.5.2模塊代碼的調試

 

5.5.3元任務的理解

 

5.5.4元訓練的機制

 

5.5.5元測試的機制

 

後記