
摘要
知识三元组补全任务具有广泛的应用前景。在知识图谱补全中,结构信息与语义信息均发挥着重要作用。与以往仅依赖知识图谱结构或语义信息的方法不同,我们提出一种联合建模方法,将知识三元组的自然语言描述中的语义信息与其结构信息共同嵌入。我们的方法通过在概率结构化损失函数下微调预训练语言模型,实现知识图谱的嵌入表示,其中语言模型的前向传播过程捕捉语义信息,而损失函数则用于重构图结构。在多个知识图谱基准数据集上的大量实验表明,该方法达到了当前最优的性能水平。此外,得益于对语义信息的更有效利用,我们的方法在低资源场景下也能显著提升性能。代码与数据集已开源,地址为:https://github.com/pkusjh/LASS。
代码仓库
pkusjh/lass
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| link-prediction-on-fb15k-237 | LASS | Hits@10: 0.533 MR: 108 |
| link-prediction-on-umls | LASS | Hits@10: 0.994 MR: 1.39 |
| link-prediction-on-wn18rr | LASS | Hits@10: 0.786 MR: 35 |