3 个月前

GraphMix:用于半监督学习的GNN改进训练方法

GraphMix:用于半监督学习的GNN改进训练方法

摘要

我们提出GraphMix,一种用于图神经网络(Graph Neural Network)的半监督目标分类的正则化方法。该方法通过参数共享与基于插值的正则化策略,将全连接网络与图神经网络联合训练。此外,我们对GraphMix如何提升底层图神经网络泛化边界进行了理论分析,且该分析不依赖于对“聚合”层结构或图神经网络深度的任何假设。通过在多种架构上的实验验证,我们进一步证实了该理论分析的有效性,包括图卷积网络(Graph Convolutional Networks)、图注意力网络(Graph Attention Networks)以及Graph-U-Net等模型。尽管方法本身简洁,但实验结果表明,GraphMix在三个经典图基准数据集(Cora、Citeseer和Pubmed引文网络数据集)以及三个新提出的基准数据集(Cora-Full、Co-author-CS和Co-author-Physics)上,均能持续提升性能,或达到与当前最先进方法相当的水平,即使在使用如图卷积网络等更简单架构的情况下亦然。

代码仓库

vikasverma1077/GraphMix
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
node-classification-on-bitcoin-alphaGraphMix (GCN)
F1-score: 0.6534
node-classification-on-bitcoin-otcGraphMix (GCN)
F1-score: 0.6635
node-classification-on-citeseer-randomGraphMix (GCN)
Accuracy: 76.45 ± 1.57
node-classification-on-citeseer-with-publicGraphMix(GCN)
Accuracy: 74.52 ± 0.59
node-classification-on-citeseer-with-public-1GraphMix (GCN)
Accuracy: 58.55 ± 2.26
node-classification-on-coauthor-csGraphMix (GCN)
Accuracy: 91.83 ± 0.51
node-classification-on-coauthor-physicsGraphMix (GCN)
Accuracy: 94.49 ± 0.84
node-classification-on-cora-fixed-10-node-perGraphMix (GCN)
Accuracy: 79.3
node-classification-on-cora-fixed-5-node-perGraphMix (GCN)
Accuracy: 71.99 ± 6.46
node-classification-on-cora-full-supervisedGraphMix (GCN)
Accuracy: 61.8%
node-classification-on-cora-random-partitionGraphMix (GCN)
Accuracy: 82.07 ± 1.17
node-classification-on-cora-with-public-splitGraphMix
Accuracy: 83.94 ± 0.57
node-classification-on-cora-with-public-splitGraphMix (GCN)
Accuracy: 83.94 ± 0.57
node-classification-on-pubmed-randomGraphMix (GCN)
Accuracy: 80.72 ± 1.08
node-classification-on-pubmed-with-publicGCN(predicted-targets)
Accuracy: 80.42%
node-classification-on-pubmed-with-publicGraphMix (GCN)
Accuracy: 80.98 ± 0.55

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
GraphMix:用于半监督学习的GNN改进训练方法 | 论文 | HyperAI超神经