4 个月前

GaAN: 门控注意力网络在大规模和时空图上的学习

GaAN: 门控注意力网络在大规模和时空图上的学习

摘要

我们提出了一种新的网络架构——门控注意力网络(GaAN),用于图上的学习任务。与传统的多头注意力机制不同,后者对所有注意力头同等对待,而GaAN通过一个卷积子网络来控制每个注意力头的重要性。我们在归纳节点分类问题上验证了GaAN的有效性。此外,以GaAN为构建模块,我们设计了图门控循环单元(GGRU),以解决交通速度预测问题。在三个真实世界数据集上的大量实验表明,我们的GaAN框架在这两项任务中均取得了最先进的成果。

代码仓库

基准测试

基准方法指标
node-classification-on-ppiGaAN
F1: 98.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
GaAN: 门控注意力网络在大规模和时空图上的学习 | 论文 | HyperAI超神经