3 个月前

扩散机制提升图学习性能

扩散机制提升图学习性能

摘要

图卷积是大多数图神经网络(GNNs)的核心组件,通常通过节点与其直接邻接(一跳)邻居之间的消息传递机制进行近似。在本工作中,我们通过引入一种强大且空间局部化的图卷积方法——图扩散卷积(Graph Diffusion Convolution, GDC),打破了仅依赖直接邻居的限制。GDC利用广义图扩散过程,例如热核(heat kernel)和个性化PageRank(personalized PageRank)等,有效缓解了真实图中噪声较多且常被任意定义的边所带来的问题。我们证明,GDC与基于谱方法的模型密切相关,因而能够融合空间域(消息传递)方法与谱方法的优势。实验表明,无论是在监督学习还是无监督学习任务中,将消息传递机制替换为图扩散卷积,均能在多种模型和不同数据集上带来一致且显著的性能提升。此外,GDC不仅适用于GNNs,还可轻松集成到任何基于图的模型或算法(如谱聚类)中,无需对原有方法进行修改,也不会增加其计算复杂度。本文的实现代码已公开发布。

代码仓库

hazdzz/GDC
pytorch
GitHub 中提及
klicperajo/gdc
官方
pytorch
jhngjng/naq-pytorch
pytorch
GitHub 中提及

基准测试

基准方法指标
node-classification-on-amz-compGCN (Heat Diffusion)
Accuracy: 86.77%
node-classification-on-amz-photoJK (Heat Diffusion)
Accuracy: 92.93%
node-classification-on-citeseerGCN (PPR Diffusion)
Accuracy: 73.35%
node-classification-on-coauthor-csGCN (PPR Diffusion)
Accuracy: 93.01%
node-classification-on-pubmedJK (Heat Diffusion)
Accuracy: 79.95%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
扩散机制提升图学习性能 | 论文 | HyperAI超神经