第14章 GNNにおける発展的な話題
はじめに
第 $\mathrm{I}\hspace{-1.2pt}\mathrm{I}$ 部では,グラフ深層学習の最も確立された手法について議論してきたが,これらの手法に関する理解が深まるにつれて,現行のGNNにはさまざまな限界が存在していることが明らかになっている. こうした限界の一部は,従来のDNNが元々抱えていた問題である. 例えば,DNNと同じく,GNNはしばしばブラックボックスであるとみなされることがあり,「その動作原理を人間が理解するのに十分な説明がされていない」という問題を抱えている. さらに,特定のグループに対する差別的な振る舞いを引き起こす可能性があり,その結果,社会に対して前例のない倫理的,道徳的,法的な影響を及ぼすことがある. 他方で,DNNにはないGNN固有の限界も存在する. 例えばGNNでは,「ネットワークの層数を増やすと性能が大幅に低下する」という傾向があったり,さらに,既存のGNNが持つ「グラフ構造を識別する能力」にも一定の限界が存在している. このような状況に対して,近年では,従来のDNNで得た知見がGNNの発展のために活用されている. 例えば,GNN向けに,ラベルなしデータを探索するための戦略(自己教師あり学習)が設計されていたり,また,GNNをユークリッド空間から双曲空間(hyperbolic space)へと拡張する試みも行われている.
本章では,これらのGNNの進展に関する取り組みを詳細にまとめている. 特に,読者をGNN研究の最前線へ近づけ,将来の研究への新たな道筋を提示することを目指す. この章で取り扱う高度なトピックには,「深層グラフニューラルネットワーク」「GNNの自己教師あり学習によるラベルなしデータの探索」「GNNの表現力の限界」といった,比較的発展したものが含まれている. これらについては次の節で詳しく説明する. それに対し,他の一部のトピックはまだ研究の初期段階にあり,それらに関しては参考文献として本章の最後に紹介する.
目次
- 14.1 はじめに
- 14.2 深い層を持つ GNN
- 14.2.1 Jumping Knowledge
- 14.2.2 DropEdge
- 14.2.3 PairNorm
- 14.3 自己教師あり学習
- 14.3.1 ノードを対象としたタスク
- 14.3.1.1 グラフ構造情報を対象とした自己教師あり学習
- 14.3.1.2 ノード属性情報を対象とした自己教師あり学習
- 14.3.1.3 グラフ構造情報とノード属性情報を対象とした自己教師あり学習
- 14.3.2 グラフを対象としたタスク
- 14.3.1 ノードを対象としたタスク
- 14.4 グラフニューラルネットワークの表現力
- 14.4.1 Weisfeiler-Lehman テスト
- 14.4.2 表現力
- 14.5 本章のまとめ
- 14.6 参考文献