3 个月前

MEIM:超越块项格式的多分区嵌入交互用于高效且富有表现力的链接预测

MEIM:超越块项格式的多分区嵌入交互用于高效且富有表现力的链接预测

摘要

知识图谱嵌入旨在预测知识图谱中实体之间的缺失关系。基于张量分解的模型(如ComplEx)在效率与表达能力之间提供了良好的平衡,这一点尤为重要,因为现实世界中的知识图谱通常规模庞大。近期提出的多分区嵌入交互(Multi-partition Embedding Interaction, MEI)模型通过采用分块张量(block term tensor)格式,统一了上述张量分解类模型,并为该权衡问题提供了一种系统性解决方案。然而,MEI仍存在若干局限性,其中部分问题源自其所涵盖的张量分解模型本身。本文针对这些缺陷,提出了一种改进模型——超越分块张量格式的多分区嵌入交互模型(Multi-partition Embedding Interaction iMproved beyond block term format, MEIM)。该模型在保留多分区嵌入的基础上,引入了独立的核心张量以实现集成效应,并采用软正交性约束以实现最大秩映射。MEIM在保持高度计算效率的同时显著提升了模型的表达能力,在使用相对较小的嵌入维度情况下,显著优于多个强基准模型,并在多个具有挑战性的链接预测基准测试中取得了当前最优性能。相关源代码已开源,地址为:https://github.com/tranhungnghiep/MEIM-KGE。

代码仓库

tranhungnghiep/meim-kge
官方
pytorch
GitHub 中提及
tranhungnghiep/MEI-KGE
pytorch
GitHub 中提及
tranhungnghiep/AnalyzeKGE
tf
GitHub 中提及

基准测试

基准方法指标
link-prediction-on-fb15k-237MEIM
Hits@1: 0.274
Hits@10: 0.557
Hits@3: 0.406
MRR: 0.369
link-prediction-on-wn18rrMEIM
Hits@1: 0.458
Hits@10: 0.577
Hits@3: 0.518
MRR: 0.499
link-prediction-on-yago3-10MEIM
Hits@1: 0.514
Hits@10: 0.716
Hits@3: 0.625
MRR: 0.585

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供