
摘要
消息传递图神经网络(GNNs)在捕捉局部关系方面表现出色,但在处理图中的长程依赖时存在困难。相比之下,图变换器(GTs)能够实现全局信息交换,但通常通过将图表示为固定长度向量的集合而简化了图结构。本研究提出了一种新颖的架构,通过结合随机游走的长程信息与局部消息传递,克服了这两种方法的不足。通过将随机游走视为序列,我们的架构利用了近期序列模型的进展,有效捕捉这些游走中的长程依赖。基于这一概念,我们提出了一个框架,该框架具备以下特点:(1) 通过随机游走序列提供更具表现力的图表示;(2) 能够利用任何序列模型来捕捉长程依赖;(3) 通过整合各种GNN和GT架构实现了灵活性。实验评估表明,我们的方法在19个图和节点基准数据集上取得了显著的性能提升,在PascalVoc-SP和COCO-SP数据集上的表现尤为突出,比现有方法最高提升了13%。代码可在https://github.com/BorgwardtLab/NeuralWalker 获取。
代码仓库
borgwardtlab/neuralwalker
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| graph-classification-on-cifar10-100k | NeuralWalker | Accuracy (%): 80.027 ± 0.185 |
| graph-classification-on-mnist | NeuralWalker | Accuracy: 98.760 ± 0.079 |
| graph-classification-on-peptides-func | NeuralWalker | AP: 0.7096 ± 0.0078 |
| graph-regression-on-peptides-struct | NeuralWalker | MAE: 0.2463 ± 0.0005 |
| graph-regression-on-zinc | NeuralWalker | MAE: 0.065 ± 0.001 |
| link-prediction-on-pcqm-contact | NeuralWalker | MRR-ext-filtered: 0.4707 ± 0.0007 |
| node-classification-on-cluster | NeuralWalker | Accuracy: 78.189 ± 0.188 |
| node-classification-on-coco-sp | NeuralWalker | macro F1: 0.4398 ± 0.0033 |
| node-classification-on-pascalvoc-sp-1 | NeuralWalker | macro F1: 0.4912 ± 0.0042 |
| node-classification-on-pattern | NeuralWalker | Accuracy: 86.977 ± 0.012 |
| node-classification-on-pokec | NeuralWalker | Accuracy: 86.46 ± 0.09 |