3 个月前

维度降低与消息传递结合用于图节点嵌入

维度降低与消息传递结合用于图节点嵌入

摘要

图神经网络(Graph Neural Networks, GNNs)已成为多种应用领域的热门方法,涵盖社交网络分析到分子化学性质建模等多个方面。尽管GNN在公开数据集上通常表现出色,但由于存在过平滑(over-smoothing)和过挤压(over-squashing)等问题,其在学习数据中的长程依赖关系方面仍面临挑战。为缓解这一问题,我们提出PCAPass方法,该方法结合主成分分析(Principal Component Analysis, PCA)与消息传递机制,在无监督条件下生成节点嵌入,并利用梯度提升决策树(gradient boosted decision trees)完成分类任务。实验结果表明,该方法在节点分类基准测试中表现与主流GNN方法相当,同时能够有效获取更远距离邻域的信息。本研究证实,将维度压缩与消息传递机制及跳跃连接相结合,是一种在图结构数据中聚合长程依赖关系的有前景的策略。

代码仓库

ksadowski13/PCAPass
官方
pytorch

基准测试

基准方法指标
node-classification-on-redditPCAPass + XGBoost
Accuracy: 96.26 ± 0.02%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
维度降低与消息传递结合用于图节点嵌入 | 论文 | HyperAI超神经