3 个月前

仅通过消息传递即可估计共同邻居以进行链接预测

仅通过消息传递即可估计共同邻居以进行链接预测

摘要

消息传递神经网络(Message Passing Neural Networks, MPNNs)已成为图表示学习领域的事实标准。然而,在链接预测任务中,MPNNs 常常表现不佳,甚至被诸如“共同邻居”(Common Neighbor, CN)等简单启发式方法超越。这种性能差距源于一个根本性局限:尽管 MPNNs 在节点级表示学习方面表现出色,但在捕捉对链接预测至关重要的联合结构特征(如 CN)方面存在不足。为弥合这一差距,我们提出,通过利用输入向量的正交性,纯粹的消息传递机制实际上能够有效捕获联合结构特征。具体而言,本文系统研究了 MPNNs 在近似 CN 启发式规则方面的能力。基于上述发现,我们提出了一种新型链接预测模型——消息传递链接预测器(Message Passing Link Predictor, MPLP)。MPLP 通过引入准正交向量来估计链接级别的结构特征,同时保留了节点级表示的复杂性。此外,我们的研究表明,利用消息传递机制捕捉结构特征,虽可能带来估计方差的增加,但可有效弥补 MPNNs 在表达能力上的局限。我们在多个领域内的基准数据集上进行了实验,结果表明,所提出的方法在各项指标上均持续优于现有基线方法。

代码仓库

Barcavin/efficient-node-labelling
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
link-property-prediction-on-ogbl-citation2MPLP
Ext. data: No
Number of params: 749757283
Test MRR: 0.9072 ± 0.0012
Validation MRR: 0.9074 ± 0.0011
link-property-prediction-on-ogbl-ppaMPLP
Ext. data: No
Number of params: 147794531
Test Hits@100: 0.6524 ± 0.0150
Validation Hits@100: 0.6685 ± 0.0073

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
仅通过消息传递即可估计共同邻居以进行链接预测 | 论文 | HyperAI超神经