4 个月前

反复距离滤波在图表示学习中的应用

反复距离滤波在图表示学习中的应用

摘要

基于迭代单跳消息传递的图神经网络在有效利用远距离节点信息方面表现出困难。相反,图变换器允许每个节点直接关注所有其他节点,但缺乏图归纳偏置,并且必须依赖于临时的位置编码。本文中,我们提出了一种新的架构来解决这些挑战。我们的方法源自最近由深度状态空间模型提供的长程建模突破:对于给定的目标节点,我们的模型通过其到目标节点的最短距离来聚合其他节点,并使用线性递归神经网络(RNN)对跳变表示序列进行编码。为了实现稳定的长程信号传播,线性RNN以特定的对角形式参数化,并且理论上具有足够的表达能力来编码邻域层次结构。无需位置编码,我们在各种基准测试中实证展示了我们的模型性能与最先进的图变换器相当或更优,同时显著降低了计算成本。我们的代码已开源,可访问 https://github.com/skeletondyh/GRED 获取。

代码仓库

skeletondyh/gred
官方
jax
GitHub 中提及

基准测试

基准方法指标
graph-classification-on-cifar10-100kGRED
Accuracy (%): 76.853±0.185
graph-classification-on-peptides-funcGRED+LapPE
AP: 0.7133±0.0011
graph-classification-on-peptides-funcGRED
AP: 0.7085±0.0027

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
反复距离滤波在图表示学习中的应用 | 论文 | HyperAI超神经