4 个月前

针对异质性节点分类问题的图回声状态网络方法

针对异质性节点分类问题的图回声状态网络方法

摘要

在图上的节点分类任务中,完全训练的深度消息传递模型通过多次聚合节点的邻域来学习节点表示的层次结构。虽然这种方法在具有高比例同类边(intra-class edges)的图上效果显著,但在相反情况下,即异质性(heterophily),这种做法面临挑战。在异质性较高的图中,基于近邻计算的卷积模型生成的平滑表示不再有效。迄今为止,已有研究提出通过改变消息传递模型的架构以减少过度平滑,或者对输入图进行重连以改善长距离消息传递的方法。本文中,我们提出了用于节点分类的图回声状态网络(Graph Echo State Network, GESN)来应对异质性图带来的挑战。GESN 是一种针对图的储层计算模型,其中节点嵌入通过未训练的消息传递函数递归计算。实验结果表明,储层模型能够在效率与准确性权衡方面优于或媲美大多数实现自定义架构偏差变化或作为预处理步骤对输入图进行重连的完全训练深度模型。此外,我们的分析显示,GESN 能够有效地编码图节点的结构关系,这体现在递归嵌入函数的迭代次数与图中最短路径分布之间的相关性上。

基准测试

基准方法指标
node-classification-on-actorGESN
Accuracy: 34.56 ± 0.76
node-classification-on-arxiv-yearGESN
Accuracy: 48.80 ± 0.22
node-classification-on-citeseer-48-32-20GESN
1:1 Accuracy: 74.51 ± 2.14
node-classification-on-cora-48-32-20-fixedGESN
1:1 Accuracy: 86.04 ± 1.01
node-classification-on-geniusGESN
1:1 Accuracy: 91.72 ± 0.08
node-classification-on-non-homophilic-11GESN
1:1 Accuracy: 77.05 ± 1.24
node-classification-on-non-homophilic-12GESN
1:1 Accuracy: 73.56 ± 1.62
node-classification-on-non-homophilic-13GESN
1:1 Accuracy: 80.29 ± 0.41
node-classification-on-non-homophilic-15GESN
1:1 Accuracy: 68.34 ± 0.86
node-classification-on-non-homophilic-7GESN
1:1 Accuracy: 81.14 ± 6.00
node-classification-on-non-homophilic-8GESN
1:1 Accuracy: 83.33 ± 3.81
node-classification-on-non-homophilic-9GESN
1:1 Accuracy: 84.31 ± 4.44
node-classification-on-pubmed-48-32-20-fixedGESN
1:1 Accuracy: 89.20 ± 0.34

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
针对异质性节点分类问题的图回声状态网络方法 | 论文 | HyperAI超神经