3 个月前

方向图网络

方向图网络

摘要

图神经网络(GNNs)缺乏各向异性核(anisotropic kernels)严重限制了其表达能力,导致诸如过平滑(over-smoothing)等经典问题。为克服这一局限,本文提出了一种面向图神经网络的首个全局一致的各向异性核方法,使得图卷积能够基于拓扑结构导出的方向流进行定义。首先,通过在图中定义一个向量场,我们提出一种方法,将节点特异性的消息投影到该向量场中,从而实现方向导数的计算与平滑操作。随后,我们建议使用拉普拉斯特征向量作为该向量场的构建基础。实验表明,该方法在形式上推广了在 $n$-维网格上的卷积神经网络(CNN),并且在 Weisfeiler-Lehman 1-WL 测试下被证明具有比标准 GNN 更强的判别能力。我们在多个标准基准数据集上对所提方法进行了评估,在 CIFAR10 图数据集上实现了相对误差降低 8%,在分子 ZINC 数据集上相对误差降低 11% 至 32%,在 MolPCBA 数据集上精度相对提升 1.6%。本工作的关键成果在于,它首次实现了图网络在无监督条件下对方向信息的嵌入,从而能够更有效地表征物理或生物系统中广泛存在的各向异性特征。

代码仓库

gbouritsas/gsn
pytorch
GitHub 中提及
Saro00/DGN
官方
pytorch

基准测试

基准方法指标
graph-classification-on-cifar10-100kDGN
Accuracy (%): 72.84
graph-property-prediction-on-ogbg-molhivDGN
Ext. data: No
Number of params: 114065
Test ROC-AUC: 0.7970 ± 0.0097
Validation ROC-AUC: 0.8470 ± 0.0047
graph-property-prediction-on-ogbg-molpcbaDGN
Ext. data: No
Number of params: 6732696
Test AP: 0.2885 ± 0.0030
Validation AP: 0.2970 ± 0.0021
node-classification-on-pattern-100kDGN
Accuracy (%): 86.680

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
方向图网络 | 论文 | HyperAI超神经