中文

Imagine and Seek:通过想象的代理提高组合图像检索

计算机视觉与模式识别 2024-12-03 v2

摘要

零样本组合图像检索需要检索与查询图像和相对描述相匹配的图像。当前方法侧重于将查询图像投影到文本特征空间,然后将其与查询文本特征组合进行检索。然而,仅依据文本特征检索图像无法保证细致的对齐,因为图像和文本之间存在天然差距。在本文中,我们引入了用于CIR的想象代理(IP-CIR),这是一种无训练的方法,通过创建与查询图像和文本描述对齐的代理图像来增强检索过程中的查询表示。我们首先利用大型语言模型的泛化能力生成图像布局,然后同时应用查询文本和图像进行条件生成。通过合并代理图像、查询图像和文本语义扰动来增强查询特征。我们新提出的平衡度量标准整合了基于文本的代理检索相似性,允许更准确地检索目标图像,同时将图像侧信息纳入整个过程。在三个公开数据集上的实验表明,我们的方法显著提高了检索性能。在CIRR数据集上,我们以K=10时的Recall@K达到70.07实现了最新的SOTA结果。此外,我们在FashionIQ数据集上的Recall@10提升了45.11个百分点至45.74,在CIRCO数据集上的mAPK@10得分从32.24提升至34.26。

关键词

引用

@article{arxiv.2411.16752,
  title  = {Imagine and Seek: Improving Composed Image Retrieval with an Imagined Proxy},
  author = {You Li and Fan Ma and Yi Yang},
  journal= {arXiv preprint arXiv:2411.16752},
  year   = {2024}
}

备注

14 pages