4 个月前

保持传递性的图表示学习:连接局部连通性和基于角色的相似性

保持传递性的图表示学习:连接局部连通性和基于角色的相似性

摘要

图表示学习(GRL)方法,如图神经网络和图变换器模型,已成功应用于分析图结构数据,主要集中在节点分类和链接预测任务上。然而,现有的研究大多仅考虑局部连通性,而忽略了远距离连通性和节点的作用。在本文中,我们提出了一种统一的图变换器网络(UGT),能够有效地将局部和全局结构信息整合到固定长度的向量表示中。首先,UGT通过识别局部子结构并聚合每个节点的$k$跳邻域特征来学习局部结构。其次,我们构建虚拟边,连接具有结构相似性的远距离节点,以捕捉长程依赖关系。第三,UGT通过自注意力机制学习统一表示,编码节点对之间的结构距离和$p$步转移概率。此外,我们提出了一种自监督学习任务,该任务能够有效学习转移概率,融合局部和全局结构特征,并可迁移至其他下游任务。实验结果表明,在多个下游任务的真实世界基准数据集上,UGT显著优于由最先进模型组成的基线方法。另外,UGT在区分非同构图对方面达到了三阶Weisfeiler-Lehman同构测试(3d-WL)的表达能力。源代码可在https://github.com/NSLab-CUK/Unified-Graph-Transformer 获取。

代码仓库

nslab-cuk/literalkg
pytorch
GitHub 中提及
nslab-cuk/unified-graph-transformer
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
graph-classification-on-enzymesUGT
Accuracy: 67.22±3.92
graph-classification-on-nci1UGT
Accuracy: 77.55 ±0.16%
graph-classification-on-nci109UGT
Accuracy: 75.45±1.26
graph-classification-on-proteinsUGT
Accuracy: 80.12 ±0.32
node-classification-on-brazil-air-trafficUGT
Accuracy: 0.8 ± 0.05
node-classification-on-chameleonUGT
Accuracy: 69.78 ±3.21
node-classification-on-citeseerUGT
Accuracy: 76.08±2.5
node-classification-on-coraUGT
Accuracy: 88.74±0.6%
node-classification-on-cornellUGT
Accuracy: 70.0 ±4.44
node-classification-on-europe-air-trafficUGT
Accuracy: 56.92 ±6.36
node-classification-on-film-60-20-20-randomUGT
1:1 Accuracy: 36.84±0.62
node-classification-on-squirrelUGT
Accuracy: 66.96 ±2.49
node-classification-on-texasUGT
Accuracy: 86.67 ±8.31
node-classification-on-usa-air-trafficUGT
Accuracy: 66.22±4.55
node-classification-on-wisconsinUGT
Accuracy: 81.6 ±8.24

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
保持传递性的图表示学习:连接局部连通性和基于角色的相似性 | 论文 | HyperAI超神经