圖神經網絡導論 (Introduction to Graph Neural Networks)

圖神經網絡（GNN）是基於深度學習的圖數據處理方法，因其卓越的性能而受到廣泛關註。本書全面介紹了GNN的基本概念、具體模型和實際應用。書中首先概述數學基礎和神經網絡以及圖神經網絡的基本概念，接著介紹不同種類的GNN，包括捲積圖神經網絡、循環圖神經網絡、圖註意力網絡、圖殘差網絡，以及幾個通用框架。此外，本書還介紹了GNN在結構化場景、非結構化場景和其他場景中的應用。讀完本書，你將對GNN的最新成果和發展方向有較為透徹的認識。

【作者簡介】

劉知遠
清華大學計算機科學與技術系副教授、博士生導師、智源人工智能研究院研究員，在自然語言處理、表示學習、知識圖譜等人工智能研究領域享有盛譽，所開發的自然語言處理算法已成為該領域的代表方法。
2018年入選《麻省理工科技評論》“35歲以下科技創新35人”。

周界
清華大學計算機科學與技術系碩士，曾在ACL、KDD等國際會議上發表論文，研究興趣包括圖神經網絡和自然語言處理。

【譯者簡介】

李濼秋
浙江大學計算機科學碩士，研究興趣主要為自然語言處理。

第1章引論1
1．1設計動機1
1．1．1卷積神經網絡1
1．1．2圖嵌入3
1．2相關工作3

第2章數學和圖論基礎7
2．1線性代數7
2．1．1基本概念7
2．1．2特徵分解10
2．1．3奇異值分解11
2．2概率論12
2．2．1基本概念和公式12
2．2．2概率分佈14
2．3圖論15
2．3．1基本概念16
2．3．2圖的代數表示16

第3章神經網絡基礎19
3．1神經元19
3．2後向傳播22
3．3神經網絡24

第4章基礎圖神經網絡27
4．1概述27
4．2模型介紹28
4．3局限性30

第5章卷積圖神經網絡33
5．1基於譜分解的方法33
5．1．1 Spectral Network 33
5．1．2 ChebNet 34
5．1．3 GCN 35
5．1．4 AGCN 36
5．2基於空間結構的方法37
5．2．1 Neural FP 37
5．2．2 PATCHY-SAN 38
5．2．3 DCNN 40
5．2．4 DGCN 40
5．2．5 LGCN 42
5．2．6 MoNet 44
5．2．7 GraphSAGE 45

第6章循環圖神經網絡47
6．1 GGNN 47
6．2 Tree-LSTM 49
6．3 Graph-LSTM 50
6．4 S-LSTM 51

第7章圖注意力網絡55
7．1 GAT 55
7．2 GaAN 57

第8章圖殘差網絡59
8．1 Highway GCN 59
8．2 Jump Knowledge Network 60
8．3 DeepGCN 62

第9章不同圖類型的模型變體65
9．1有向圖65
9．2異構圖66
9．3帶有邊信息的圖68
9．4動態圖70
9．5多維圖72

第10章高級訓練方法75
10．1採樣75
10．2層級池化78
10．3數據增廣80
10．4無監督訓練80

第11章通用框架83
11．1 MPNN 83
11．2 NLNN 85
11．3 GN 87

第12章結構化場景應用93
12．1物理學93
12．2化學和生物學95
12．2．1分子指紋95
12．2．2化學反應預測97
12 ．2．3藥物推薦97
12．2．4蛋白質和分子交互預測98
12．3知識圖譜99
12．3．1知識圖譜補全99
12．3．2歸納式知識圖譜嵌入100
12．3．3知識圖譜對齊101
12．4推薦系統102
12．4．1矩陣補全103
12．4．2社交推薦104

第13章非結構化場景應用105
13．1圖像領域105
13．1．1圖像分類105
13．1．2視覺推理108
13．1．3語義分割109
13．2文本領域110
13．2．1文本分類110
13．2．2序列標註111
13．2．3神經機器翻譯112
13．2 ．4信息抽取113
13．2．5事實驗證114
13．2．6其他應用116

第14章其他場景應用117
14．1生成模型117
14．2組合優化119

第15章開放資源121
15．1數據集121
15．2代碼實現123

第16章總結125
16．1淺層結構125
16．2動態圖126
16． 3非結構化場景126
16．4可擴展性126
參考文獻129
作者簡介148