RetrievalGuard：可证明鲁棒的1近邻图像检索
信息检索
2022-06-23 v1 机器学习
摘要
近期的研究工作表明，图像检索模型易受对抗攻击，其中略微修改的测试输入可能导致有问题的检索结果。在本文中，我们旨在设计一种可证明鲁棒的图像检索模型，使最重要的评价指标Recall@1对对抗扰动保持不变。我们提出了首个1近邻（NN）图像检索算法RetrievalGuard，该算法对于可计算半径的球内的对抗扰动具有可证明的鲁棒性。挑战在于设计一种可证明鲁棒的算法，该算法需考虑1-NN搜索和嵌入空间的高维特性。在算法上，给定一个基础检索模型和一个查询样本，我们通过仔细分析高维嵌入空间中的1-NN搜索过程，构建了一个平滑检索模型。我们证明该平滑检索模型具有有界的Lipschitz常数，因此检索分数对对抗扰动保持不变。在图像检索任务上的实验验证了我们的RetrievalGuard方法的鲁棒性。
引用
@article{arxiv.2206.11225,
title = {RetrievalGuard: Provably Robust 1-Nearest Neighbor Image Retrieval},
author = {Yihan Wu and Hongyang Zhang and Heng Huang},
journal= {arXiv preprint arXiv:2206.11225},
year = {2022}
}
备注
accepted by ICML 2022