"本書專註於幾何深度學習及其在圖神經網絡領域中的應用，涵蓋了從數學基礎到前沿模型的全面指導，同時結合實際項目案例，幫助讀者深入地理解幾何深度學習的復雜概念。書中不僅詳細闡述了各類算法的理論背景，還提供了實際操作指南，為讀者提供了理論與實踐相結合的全面支持。第1章和第2章介紹了幾何深度學習的數學與算法基礎。第1章涵蓋了高等數學、線性代數、圖論、群論及量子力學等內容，為讀者奠定堅實的理論基礎。第2章則探討了CNN、LSTM、Transformer和GAN等主流深度學習算法，並引出其後續在幾何深度學習中的應用。第3章深入分析了圖神經網絡，重點介紹了各類模型及其變體，突出圖神經網絡在幾何深度學習中的重要地位。第4章和第5章分別探討了不變性與等變性概念及其在幾何圖神經網絡中的應用，深入剖析了這些核心理念在模型構建中的作用。不變性與等變性是幾何深度學習的核心理念，也是實現模型穩健性和泛化能力的關鍵。第6章圍繞E3NN工具庫展開，這是一個強大的開源庫，專門用於處理具有旋轉對稱性的三維數據。通過對E3NN中關鍵組件的詳細解析，包括等變卷積和SE(3)-Transformer的實現，讀者將學會如何利用這些工具解決實際問題，並進一步拓展其在幾何深度學習中的應用。幾何深度學習在解決生物、化學、材料、物理及工程等領域的問題上有著廣泛應用。從粒子、原子、分子、蛋白質到晶體，以及點雲數據和更大尺度的天體、星系數據等，幾何深度學習能夠高效建模相關數據。本書適合對幾何深度學習和圖神經網絡感興趣的研究人員及相關領域的從業者。 "

於浩文，南安普頓大學人工智能專業碩士一等學位，曼徹斯特大學生物信息與系統生物碩士一等學位。湖南點頭教育科技有限公司聯合創始人，課程講師。

配套資源

第1章深度學習數學基礎

1.1高等數學

1.1.1重識微分

1.1.2微分的解讀

1.1.3微分與函數的單調性和凹凸性

1.1.4微分的鏈式法則

1.1.5梯度

1.1.6泰勒公式與麥克勞林公式

1.1.7傅裏葉級數

1.2線性代數

1.2.1向量的數乘

1.2.2向量的加法

1.2.3向量的線性組合

1.2.4向量空間

1.2.5向量的線性相關和線性無關

1.2.6向量乘法

1.2.7向量的正交與基組

1.2.8矩陣乘法

1.2.9初等矩陣

1.2.10可逆矩陣

1.2.11矩陣的行列式

1.2.12矩陣的秩

1.2.13矩陣的特征值與特征向量

1.3圖論

1.3.1圖的表示

1.3.2圖的全局屬性

1.3.3圖的節點屬性

1.3.4圖的邊屬性

1.4群論

1.4.1群論的定義

1.4.2對稱性

1.4.3不變性與等變性

1.4.4群的表示

1.4.5常見的群

1.5量子力學

1.5.1球諧函數的定義

1.5.2球諧函數與深度學習

1.5.3球諧函數與對稱性

1.5.4不可約表示與WignerD矩陣

1.5.5CG系數

1.5.6徑向模型

1.5.7球諧函數與徑向模型的結合

第2章幾何深度學習算法理論基礎

2.1深度學習簡介

2.1.1線性模型的定義

2.1.2感知機模型定義與理解

2.1.3神經網絡算法

2.2優化算法

2.2.1梯度下降算法

2.2.2反向傳播算法

2.2.3梯度下降算法的變體

2.2.4優化過程中過擬合與欠擬合

2.2.5優化過程中梯度不穩定

2.3卷積神經網絡

2.3.1二維卷積神經網絡的計算

2.3.2卷積的設計思想

2.3.3卷積進行特征提取的過程

2.3.4池化與采樣

2.3.5卷積神經網絡的感受野

2.3.6卷積模型實現圖像識別

2.3.7LeNet：最初的卷積模型

2.3.8AlexNet：拉開深度學習序幕

2.3.9ResNet：神來之“路”

2.3.10卷積算法與幾何深度學習

2.4LSTM算法

2.4.1RNN模型

2.4.2語言模型

2.4.3長短期記憶網絡

2.4.4RNN算法與幾何深度學習

2.5Transformer算法

2.5.1自註意力層

2.5.2多頭自註意力層

2.5.3Transformer算法與幾何深度學習

2.6生成對抗網絡算法

2.6.1GAN的模型結構

2.6.2GAN模型的訓練

2.6.3生成對抗網絡與幾何深度學習

第3章圖神經網絡

3.1圖數據簡介

3.1.1圖數據的任務類型

3.1.2圖數據的Embedding

3.2圖神經網絡模型

3.2.1消息傳遞神經網絡

3.2.2圖神經網絡的層結構與連接性

3.2.3圖神經網絡模型的訓練

3.2.4圖數據的數據增強

3.3圖神經網絡算法基礎的變體

3.3.1Graph Convolutional Network

3.3.2Graph Sample and Aggregate Network

3.3.3Graph Attention Network

3.4進階圖神經網絡

3.4.1進階圖神經網絡概述

3.4.2Residual Gated Graph Convents

3.4.3Relational Graph Convolutional Neural Network

3.4.4Deep Graph Infomax

3.4.5GraphGAN

第4章不變性幾何圖神經網絡

4.1幾何圖神經網絡

4.1.1分子性質預測問題

4.1.2QM9數據集

4.1.3圖神經網絡進行分子性質預測

4.1.4幾何圖神經網絡進行分子性質預測

4.2SchNet

4.2.1SchNet模型結構

4.2.2SchNet與GNN

4.3DimeNet

4.3.1引入角度信息

4.3.2球諧函數和貝塞爾徑向模型

4.3.3DimeNet的消息傳遞機制

4.3.4模型結構

4.3.5DimeNet++

4.4GemNet

4.4.1引入二面角信息

4.4.2GemNet消息傳遞機制

4.4.3模型結構

4.5不變性GNN的結構引入方式

4.5.1SphereNet

4.5.2ComENet

第5章等變性幾何圖神經網絡

5.1EGNN

5.1.1EGNN等變性的引入方式

5.1.2EGNN等變性的證明

5.2PAINN

5.2.1PAINN的向量信息的引入

5.2.2PAINN的模型結構

5.3GVPGNN

5.3.1Geometric Vector Perceptron

5.3.2GVP結合GNN

5.3.3GVPGNN等變性的討論

5.4ClofNet

5.4.1局部坐標系

5.4.2ClofNet模型總體架構

5.5LEFTNet

5.5.1三種圖同構問題

5.5.2LSE模塊提取局域信息

5.5.3EMP模塊進行圖的消息傳遞

5.5.4FTE模型進行圖的消息更新

5.6張量場神經網絡

5.6.1TFN輸入數據的Embedding

5.6.2點卷積

5.6.3ClebschGordan coefficients

5.6.4自相互作用層

5.6.5激活函數

5.6.6頂層結構

5.6.7TFN的消息傳遞機制

5.7SEGNN

5.7.1可導向特征

5.7.2可導向多層感知機

5.7.3基於可導向特征的節點信息表示

5.7.4SEGNN的模型結構與計算方式

5.8SE(3)Transformers

5.8.1SE(3)Transformer的計算流程

5.8.2SE(3)Transformer的組成部分

5.8.3SE(3)Transformer小結

第6章E3NN工具庫

6.1E3NN中的數據類型

6.1.1不可約表示

6.1.2不可約表示的坐標反演與奇偶性

6.1.3E3NN庫中不可約表示的定義

6.1.4E3NN庫中張量積的定義

6.2E3NN中的等變卷積

6.2.1等變卷積的數學定義

6.2.2球諧張量的定義

6.2.3張量積的使用

6.2.4徑向模型的定義

6.2.5鄰居信息的聚合

6.3E3NN中的SE(3)Transformer

6.3.1SE(3)Transformer的計算公式

6.3.2註意力機制的代碼實現

6.3.3SE(3)Transformer的代碼實現

6.3.4等變性檢測

6.4基於E3NN的俄羅斯方塊識別

6.4.1等變模型與訓練邏輯的定義

6.4.2等變模型的改進優化

幾何深度學習——算法與實踐

於浩文、鄧博文

相關主題

商品描述

作者簡介

目錄大綱

類似商品