摘要
跨模态匹配中噪声对应关系的存在严重削弱了现有匹配方法的性能。本文提出一种名为邻域辅助修正器（Neighbor Auxiliary Corrector, NAC）的鲁棒框架，通过利用具有相似语义目标的邻近样本，有效缓解噪声问题。NAC 的设计灵感源于一个观察：语义相似的文本倾向于对应于语义相似的图像。借助预训练语言模型（Pre-trained Language Models, PLMs）的零样本能力，我们为每个正样本图像-文本对识别出其 top-k 最近邻。随后，利用这些邻近样本所提供的辅助信息，实现样本的验证与修正。在多个基准数据集上的大量实验表明，所提出的框架能够显著提升匹配性能，并对不同水平的噪声对应关系展现出更强的鲁棒性。
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| cross-modal-retrieval-with-noisy-1 | NAC | Image-to-text R@1: 41.8 Image-to-text R@10: 77.3 Image-to-text R@5: 68.6 R-Sum: 373.5 Text-to-image R@1: 40.5 Text-to-image R@10: 77.0 Text-to-image R@5: 68.3 |
| cross-modal-retrieval-with-noisy-2 | NAC | Image-to-text R@1: 79.3 Image-to-text R@10: 97.8 Image-to-text R@5: 94.6 R-Sum: 507.1 Text-to-image R@1: 60.8 Text-to-image R@10: 90.1 Text-to-image R@5: 84.5 |
| cross-modal-retrieval-with-noisy-3 | NAC | Image-to-text R@1: 80.3 Image-to-text R@10: 98.5 Image-to-text R@5: 96.2 R-Sum: 524.5 Text-to-image R@1: 63.2 Text-to-image R@10: 96.0 Text-to-image R@5: 90.3 |