3 个月前

经典GNNs是强有力的基线:重新评估图神经网络在节点分类中的应用

经典GNNs是强有力的基线:重新评估图神经网络在节点分类中的应用

摘要

图Transformer(Graph Transformers, GTs)近年来作为传统消息传递图神经网络(Graph Neural Networks, GNNs)的替代方法受到广泛关注,这主要得益于其理论上更强的表达能力,以及在标准节点分类基准测试中所展现出的卓越性能,通常显著优于传统GNN模型。在本文中,我们对三种经典GNN模型(GCN、GAT和GraphSAGE)与GTs的性能进行了全面的实证分析,以重新评估GTs的实际优势。研究结果表明,此前报道的GTs性能优越性可能因GNN模型在超参数配置上的不优化而被过度夸大。值得注意的是,在进行轻微的超参数调优后,这些经典GNN模型在所考察的18个多样化数据集中的17个上达到了当前最优(state-of-the-art)性能,其表现不仅与近期GTs相当,甚至在部分数据集上实现超越。此外,我们还开展了详尽的消融实验,系统考察了归一化、Dropout、残差连接以及网络深度等不同GNN配置对节点分类性能的影响。本研究旨在推动图机器学习领域提升实证研究的严谨性,倡导更准确、更公平的模型能力比较与评估方法,从而促进该领域更加科学、可信的发展。

代码仓库

LUOyk1999/tunedGNN
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
node-classification-on-amazon-computers-1GraphSAGE
Accuracy: 93.25±0.14
node-classification-on-amazon-computers-1GCN
Accuracy: 93.99±0.12
node-classification-on-amazon-computers-1GAT
Accuracy: 94.09±0.37
node-classification-on-amazon-photo-1GraphSAGE
Accuracy: 96.78 ± 0.23
node-classification-on-amazon-photo-1GCN
Accuracy: 96.10 ± 0.46
node-classification-on-amazon-photo-1GAT
Accuracy: 96.60 ± 0.33
node-classification-on-amazon-ratingsGCN
Accuracy (%): 53.80 ± 0.60
node-classification-on-amazon-ratingsGraphSAGE
Accuracy (%): 55.40 ± 0.21
node-classification-on-amazon-ratingsGAT
Accuracy (%): 55.54 ± 0.51
node-classification-on-citeseer-with-publicGCN
Accuracy: 73.14± 0.67
node-classification-on-coauthor-csGraphSAGE
Accuracy: 96.38±0.11
node-classification-on-coauthor-physicsGCN
Accuracy: 97.46 ± 0.10
node-classification-on-cora-with-public-splitGCN
Accuracy: 85.1 ± 0.7
node-classification-on-minesweeperGAT
AUCROC: 97.73 ± 0.73
node-classification-on-minesweeperGraphSAGE
AUCROC: 97.77 ± 0.62
node-classification-on-minesweeperGCN
AUCROC: 97.86 ± 0.24
node-classification-on-pokecGCN
Accuracy: 86.33 ± 0.17
node-classification-on-pubmed-with-publicGCN
Accuracy: 81.12 ± 0.52
node-classification-on-questionsGCN
AUCROC: 79.02±0.60
node-classification-on-roman-empireGCN
Accuracy (% ): 91.27±0.20

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
经典GNNs是强有力的基线:重新评估图神经网络在节点分类中的应用 | 论文 | HyperAI超神经