HyperAIHyperAI

Command Palette

Search for a command to run...

NAC:通过邻域辅助修正器缓解跨模态匹配中的噪声对应关系

Shao-Lun Huang Jian Xu Haoming Huang Yuqing Li

摘要

跨模态匹配中噪声对应关系的存在严重削弱了现有匹配方法的性能。本文提出一种名为邻域辅助修正器(Neighbor Auxiliary Corrector, NAC)的鲁棒框架,通过利用具有相似语义目标的邻近样本,有效缓解噪声问题。NAC 的设计灵感源于一个观察:语义相似的文本倾向于对应于语义相似的图像。借助预训练语言模型(Pre-trained Language Models, PLMs)的零样本能力,我们为每个正样本图像-文本对识别出其 top-k 最近邻。随后,利用这些邻近样本所提供的辅助信息,实现样本的验证与修正。在多个基准数据集上的大量实验表明,所提出的框架能够显著提升匹配性能,并对不同水平的噪声对应关系展现出更强的鲁棒性。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
NAC:通过邻域辅助修正器缓解跨模态匹配中的噪声对应关系 | 论文 | HyperAI超神经