3 个月前

用于多关系学习的自适应卷积

用于多关系学习的自适应卷积

摘要

我们研究多关系数据中实体与关系的分布式表示学习问题,旨在预测其中缺失的链接。近年来,卷积神经网络在该任务中展现出优越性,既提升了模型的表达能力,又保持了参数高效性。然而,现有卷积结构的设计未能充分建模输入实体与关系之间的完整交互,这可能限制了链接预测的性能。为此,本文提出ConvR——一种自适应卷积网络,旨在以卷积方式最大化实体与关系之间的交互。ConvR通过关系表示自适应地构建卷积核,并将这些卷积核作用于实体表示,从而生成卷积特征。该机制使得实体与关系表示在不同区域间能够实现丰富而充分的交互,且所有生成的卷积特征均能有效捕捉此类交互。我们在多个基准数据集上对ConvR进行了评估。实验结果表明:(1)ConvR在几乎所有指标和所有数据集上均显著优于现有竞争性基线模型;(2)相较于当前最先进的卷积模型,ConvR不仅更具有效性,而且更加高效:在保持更少参数存储(节省12%)的同时,将MRR提升7%,Hits@10提升6%。

基准测试

基准方法指标
link-prediction-on-fb15kConvR
Hits@1: 0.720
Hits@10: 0.887
Hits@3: 0.826
MRR: 0.782
link-prediction-on-fb15k-237ConvR
Hits@1: 0.261
Hits@10: 0.528
Hits@3: 0.385
MRR: 0.350
link-prediction-on-wn18ConvR
Hits@1: 0.947
Hits@10: 0.958
Hits@3: 0.955
MRR: 0.951
link-prediction-on-wn18rrConvR
Hits@1: 0.443
Hits@10: 0.537
Hits@3: 0.489
MRR: 0.475

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于多关系学习的自适应卷积 | 论文 | HyperAI超神经