3 个月前

DensE:一种具有自适应语义层次的增强型非交换知识图谱嵌入表示

DensE:一种具有自适应语义层次的增强型非交换知识图谱嵌入表示

摘要

捕捉关系的组合模式是知识图谱补全中的关键任务,同时也是实现基于学习知识的多跳推理的基础步骤。以往,多种基于旋转的平移方法被提出,通过一系列复数对角矩阵的乘积来建模复合关系。然而,这些方法往往对复合关系做出若干过于简化的假设,例如强制其满足交换性、与实体无关,且缺乏语义层次结构。为系统性地解决上述问题,我们提出了一种新型知识图谱嵌入方法——DensE,旨在为关系的复杂组合模式提供更优的建模方案。具体而言,我们的方法将每种关系分解为基于SO(3)群的旋转算子与三维(3-D)欧几里得空间中的缩放算子。这一设计原则带来了多项优势:(1)对于复合关系,其对应的对角关系矩阵可为非交换形式,更符合现实应用中的主流场景;(2)模型能够保留关系操作与实体嵌入之间的自然交互;(3)缩放操作赋予模型对实体内在语义层次结构的建模能力;(4)DensE在参数量和训练时间方面均表现出高计算效率,同时实现了更强的表达能力;(5)相较于四元数空间,将实体置于欧几里得空间中,有助于保持关系模式的直观几何解释。在多个基准知识图谱上的实验结果表明,DensE在缺失链接预测任务中显著优于当前最先进的模型,尤其在处理复合关系时表现突出。

基准测试

基准方法指标
link-prediction-on-fb15k-237DensE
Hits@1: 0.256
Hits@10: 0.535
Hits@3: 0.384
MR: 169
MRR: 0.349
link-prediction-on-wn18DensE
Hits@1: 0.945
Hits@10: 0.959
Hits@3: 0.954
MR: 285
MRR: 0.950
link-prediction-on-wn18rrDensE
Hits@1: 0.443
Hits@10: 0.579
Hits@3: 0.508
MR: 3052
MRR: 0.491
link-prediction-on-yago3-10DensE
Hits@1: 0.465
Hits@10: 0.678
Hits@3: 0.585
MRR: 0.541

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
DensE:一种具有自适应语义层次的增强型非交换知识图谱嵌入表示 | 论文 | HyperAI超神经