4 个月前

复杂嵌入用于简单链接预测

复杂嵌入用于简单链接预测

摘要

在统计关系学习中,链接预测问题是自动理解大型知识库结构的关键。与以往研究类似,我们提出通过潜在因子分解来解决这一问题。然而,在本研究中,我们采用了复数值嵌入(complex valued embeddings)。复数嵌入的组合可以处理多种二元关系,包括对称关系和反对称关系。与当前最先进的模型如神经张量网络(Neural Tensor Network)和全息嵌入(Holographic Embeddings)相比,基于复数嵌入的方法更为简单,因为它仅使用了埃尔米特点积(Hermitian dot product),这是实向量标准点积的复数对应形式。我们的方法在空间和时间上均保持线性复杂度,因此可扩展到大型数据集,并且在标准链接预测基准测试中持续优于其他方法。

基准测试

基准方法指标
link-prediction-on-fb122ComplEx
HITS@3: 67.3
Hits@10: 71.9
Hits@5: 69.5
MRR: 64.1
link-prediction-on-fb15k-237ComplEx
Hits@10: 0.428
link-prediction-on-umlsComplEx
Hits@10: 0.967
MR: 2.59
link-prediction-on-wn18ComplEx
Hits@1: 0.936
Hits@10: 0.947
Hits@3: 0.936
MRR: 0.941
link-prediction-on-wn18rrComplEx
Hits@1: 0.410
Hits@10: 0.510
MRR: 0.440
link-property-prediction-on-ogbl-biokgComplEx
Ext. data: No
Number of params: 187648000
Test MRR: 0.8095 ± 0.0007
Validation MRR: 0.8105 ± 0.0001
link-property-prediction-on-ogbl-wikikg2ComplEx (50dim)
Ext. data: No
Number of params: 250113900
Test MRR: 0.3804 ± 0.0022
Validation MRR: 0.3534 ± 0.0052
link-property-prediction-on-ogbl-wikikg2ComplEx (250dim)
Ext. data: No
Number of params: 1250569500
Test MRR: 0.4027 ± 0.0027
Validation MRR: 0.3759 ± 0.0016

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
复杂嵌入用于简单链接预测 | 论文 | HyperAI超神经