基于核集的高效且有效的上下文演示选择
计算机视觉与模式识别
2025-11-13 v1
摘要
上下文学习(In-context Learning,ICL)已成为大型视觉语言模型(Large Visual Language Models,LVLMs)的强大范式,使其能够直接从输入上下文中利用少量示例。然而,这一方法的有效性高度依赖于演示(demonstration)的选择,而这一过程属于NP难问题。传统策略,包括随机选择、基于相似性的抽样和基于信息得分的抽样,常导致效率低下或性能次优,难以在演示选择中实现效率与效果的平衡。本文提出一种名为核集双检索(Coreset-based Dual Retrieval,CoDR)的新型演示选择框架。我们展示,具有多样性子集中的样本在期望互信息方面具有更高的值。为实现此目标,我们引入一种聚类修剪方法,以构建与查询更一致且保持多样性的核集。此外,我们发展了双检索机制,通过实现全局演示选择同时保持效率来增强选择过程。实验结果表明,我们的方法显著优于现有策略,为有效且高效的演示选择提供了稳健的解决方案。
引用
@article{arxiv.2511.08977,
title = {Efficient and Effective In-context Demonstration Selection with Coreset},
author = {Zihua Wang and Jiarui Wang and Haiyang Xu and Ming Yan and Fei Huang and Xu Yang and Xiu-Shen Wei and Siya Mi and Yu Zhang},
journal= {arXiv preprint arXiv:2511.08977},
year = {2025}
}
备注
This paper is accepted by AAAI26