3 个月前

胶囊图神经网络

胶囊图神经网络

摘要

从图神经网络(Graph Neural Networks, GNNs)中学习得到的高质量节点嵌入(node embeddings)已被广泛应用于各类基于节点的任务,并在其中一些任务中取得了当前最优(State-of-the-Art, SOTA)的性能表现。然而,当将GNN学习得到的节点嵌入用于生成图级别的嵌入(graph embeddings)时,传统的标量形式节点表示可能难以有效保留节点与图之间的关键属性,从而导致图嵌入质量不理想,难以达到最优效果。受胶囊神经网络(Capsule Neural Network, CapsNet)的启发,我们提出了一种新型模型——胶囊图神经网络(Capsule Graph Neural Network, CapsGNN),该模型引入“胶囊”(capsule)概念,以解决现有基于GNN的图嵌入方法在表达能力上的局限性。通过以胶囊形式提取节点特征,并结合路由机制(routing mechanism),CapsGNN能够有效捕捉图层面的关键信息。由此,模型可为每个图生成多个嵌入表示,从而从不同角度全面刻画图的结构性质。此外,CapsGNN中集成的注意力模块能够有效应对图结构大小不一的问题,同时使模型聚焦于图中最具代表性的关键部分。我们在10个图结构数据集上进行了广泛的实验评估,结果表明,CapsGNN具备强大的数据驱动能力,能够有效捕捉整个图的宏观属性。在多项图分类任务中,CapsGNN显著优于现有的多种SOTA方法,展现出其作为新型图嵌入工具的强大潜力。

基准测试

基准方法指标
graph-classification-on-collabCapsGNN
Accuracy: 79.62%
graph-classification-on-ddCapsGNN
Accuracy: 75.38%
graph-classification-on-enzymesCapsGNN
Accuracy: 54.67%
graph-classification-on-imdb-bCapsGNN
Accuracy: 73.10%
graph-classification-on-imdb-mCapsGNN
Accuracy: 50.27%
graph-classification-on-mutagCapsGNN
Accuracy: 86.67%
graph-classification-on-nci1CapsGNN
Accuracy: 78.35%
graph-classification-on-proteinsCapsGNN
Accuracy: 76.28%
graph-classification-on-re-m12kCapsGNN
Accuracy: 46.62%
graph-classification-on-re-m5kCapsGNN
Accuracy: 52.88%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
胶囊图神经网络 | 论文 | HyperAI超神经