PsomasBill ; KakogeorgiouIoannis ; EfthymiadisNikos ; ToliasGiorgos ; ChumOndrej ; AvrithisYannis ; KarantzalosKonstantinos

摘要
这项研究将组合图像检索引入了遥感领域。它允许通过图像示例与文本描述相结合的方式查询大型图像档案库,从而增强了单模态查询(无论是视觉还是文本)的描述能力。文本部分可以修改各种属性,如形状、颜色或上下文。本文提出了一种融合图像到图像和文本到图像相似性的新方法。我们证明了一个视觉-语言模型具备足够的描述能力,无需进一步的学习步骤或训练数据。我们还介绍了一个新的评估基准,重点关注颜色、上下文、密度、存在性、数量和形状的修改。我们的工作不仅为这一任务设定了最新的技术水平,还为解决遥感图像检索领域的空白奠定了基础。代码地址:https://github.com/billpsomas/rscir
代码仓库
billpsomas/rscir
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| zero-shot-composed-image-retrieval-zs-cir-on-10 | WeiCom (CLIP) | mAP: 24.83 |
| zero-shot-composed-image-retrieval-zs-cir-on-10 | WeiCom (RemoteCLIP) | mAP: 30.19 |