4 个月前

重新思考多模态实体对齐中的不确定缺失和模糊视觉模态

重新思考多模态实体对齐中的不确定缺失和模糊视觉模态

摘要

作为实体对齐(Entity Alignment, EA)的重要扩展,多模态实体对齐(Multi-Modal Entity Alignment, MMEA)旨在通过利用相关的视觉信息来识别不同知识图谱(Knowledge Graphs, KGs)中的相同实体。然而,现有的MMEA方法主要集中在多模态实体特征的融合范式上,而忽视了普遍存在的视觉图像缺失和固有模糊性所带来的挑战。在本文中,我们进一步分析了视觉模态的不完整性,并在我们提出的MMEA-UMVM数据集上对最新的MMEA模型进行了基准测试。该数据集涵盖了双语和单语的知识图谱类型,采用标准(非迭代)和迭代训练范式来评估模型性能。我们的研究表明,在面对模态不完整性时,模型容易过度拟合模态噪声,并在高比例的缺失模态下表现出性能波动或下降。这证明了引入额外的多模态数据有时会对实体对齐产生负面影响。为了解决这些挑战,我们提出了UMAEA,一种稳健的多模态实体对齐方法,专门用于处理不确定缺失和模糊的视觉模态。UMAEA在所有97个基准测试分割中均实现了最先进(State-of-the-Art, SOTA)的性能,显著超越了现有基线方法,并且在参数量和时间消耗方面非常有限的情况下有效缓解了其他模型所面临的局限性。我们的代码和基准数据可在https://github.com/zjukg/UMAEA获取。

代码仓库

zjukg/umaea
pytorch
GitHub 中提及

基准测试

基准方法指标
entity-alignment-on-dbp15k-fr-enUMAEA (w/o surf & iter )
Hits@1: 0.818
entity-alignment-on-dbp15k-fr-enUMAEA (w/o surf)
Hits@1: 0.873
entity-alignment-on-dbp15k-ja-enUMAEA (w/o surf & iter )
Hits@1: 0.801
entity-alignment-on-dbp15k-ja-enUMAEA (w/o surf)
Hits@1: 0.857
entity-alignment-on-dbp15k-zh-enUMAEA (w/o surf)
Hits@1: 0.856
entity-alignment-on-dbp15k-zh-enUMAEA (w/o surf & iter )
Hits@1: 0.800
multi-modal-entity-alignment-on-umvm-dbp-frUMAEA (w/o surf & iter )
Hits@1: 0.818
multi-modal-entity-alignment-on-umvm-dbp-frUMAEA (w/o surf)
Hits@1: 0.873
multi-modal-entity-alignment-on-umvm-dbp-jaUMAEA (w/o surf)
Hits@1: 0.857
multi-modal-entity-alignment-on-umvm-dbp-jaUMAEA (w/o surf & iter )
Hits@1: 0.801
multi-modal-entity-alignment-on-umvm-dbp-zhUMAEA (w/o surf)
Hits@1: 0.856
multi-modal-entity-alignment-on-umvm-dbp-zhUMAEA (w/o surf & iter )
Hits@1: 0.800
multi-modal-entity-alignment-on-umvm-oea-d-wUMAEA (w/o surf)
Hits@1: 0.945
multi-modal-entity-alignment-on-umvm-oea-d-wUMAEA (w/o surf & iter )
Hits@1: 0.904
multi-modal-entity-alignment-on-umvm-oea-d-w-1UMAEA (w/o surf)
Hits@1: 0.973
multi-modal-entity-alignment-on-umvm-oea-d-w-1UMAEA (w/o surf & iter )
Hits@1: 0.948
multi-modal-entity-alignment-on-umvm-oea-enUMAEA (w/o surf)
Hits@1: 0.895
multi-modal-entity-alignment-on-umvm-oea-enUMAEA (w/o surf & iter )
Hits@1: 0.848
multi-modal-entity-alignment-on-umvm-oea-en-1UMAEA (w/o surf & iter )
Hits@1: 0.956
multi-modal-entity-alignment-on-umvm-oea-en-1UMAEA (w/o surf)
Hits@1: 0.974

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
重新思考多模态实体对齐中的不确定缺失和模糊视觉模态 | 论文 | HyperAI超神经