
摘要
在图上的节点分类任务中,完全训练的深度消息传递模型通过多次聚合节点的邻域来学习节点表示的层次结构。虽然这种方法在具有高比例同类边(intra-class edges)的图上效果显著,但在相反情况下,即异质性(heterophily),这种做法面临挑战。在异质性较高的图中,基于近邻计算的卷积模型生成的平滑表示不再有效。迄今为止,已有研究提出通过改变消息传递模型的架构以减少过度平滑,或者对输入图进行重连以改善长距离消息传递的方法。本文中,我们提出了用于节点分类的图回声状态网络(Graph Echo State Network, GESN)来应对异质性图带来的挑战。GESN 是一种针对图的储层计算模型,其中节点嵌入通过未训练的消息传递函数递归计算。实验结果表明,储层模型能够在效率与准确性权衡方面优于或媲美大多数实现自定义架构偏差变化或作为预处理步骤对输入图进行重连的完全训练深度模型。此外,我们的分析显示,GESN 能够有效地编码图节点的结构关系,这体现在递归嵌入函数的迭代次数与图中最短路径分布之间的相关性上。
代码仓库
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| node-classification-on-actor | GESN | Accuracy: 34.56 ± 0.76 |
| node-classification-on-arxiv-year | GESN | Accuracy: 48.80 ± 0.22 |
| node-classification-on-citeseer-48-32-20 | GESN | 1:1 Accuracy: 74.51 ± 2.14 |
| node-classification-on-cora-48-32-20-fixed | GESN | 1:1 Accuracy: 86.04 ± 1.01 |
| node-classification-on-genius | GESN | 1:1 Accuracy: 91.72 ± 0.08 |
| node-classification-on-non-homophilic-11 | GESN | 1:1 Accuracy: 77.05 ± 1.24 |
| node-classification-on-non-homophilic-12 | GESN | 1:1 Accuracy: 73.56 ± 1.62 |
| node-classification-on-non-homophilic-13 | GESN | 1:1 Accuracy: 80.29 ± 0.41 |
| node-classification-on-non-homophilic-15 | GESN | 1:1 Accuracy: 68.34 ± 0.86 |
| node-classification-on-non-homophilic-7 | GESN | 1:1 Accuracy: 81.14 ± 6.00 |
| node-classification-on-non-homophilic-8 | GESN | 1:1 Accuracy: 83.33 ± 3.81 |
| node-classification-on-non-homophilic-9 | GESN | 1:1 Accuracy: 84.31 ± 4.44 |
| node-classification-on-pubmed-48-32-20-fixed | GESN | 1:1 Accuracy: 89.20 ± 0.34 |