OASIS：面向持续视觉指令微调的在线样本选择
计算机视觉与模式识别
2025-10-10 v2
摘要
在持续指令微调（CIT）场景中，新的指令微调数据以在线流式方式持续到达，大规模数据带来的训练延迟严重阻碍了实时适应。数据选择可以缓解这一开销，但现有策略通常依赖于预训练的参考模型，这在CIT设置中是不切实际的，因为未来的数据是未知的。近期无参考模型的在线样本选择方法解决了这一问题，但通常在每个批次中选择固定数量的样本（例如top-k），这使得它们容易受到批次间信息量分布变化的影响。为了解决这些局限性，我们提出了OASIS，一种用于CIT的自适应在线样本选择方法，它（1）通过估计每个样本相对于所有先前见过数据的信息量来选择信息丰富的样本，超越了批次级别的限制，并且（2）通过迭代更新选择分数来最小化所选样本的信息冗余。在各种大型基础模型上的实验表明，OASIS仅使用25%的数据，就能达到与全数据训练相当的性能，并优于最先进的采样方法。
引用
@article{arxiv.2506.02011,
title = {OASIS: Online Sample Selection for Continual Visual Instruction Tuning},
author = {Minjae Lee and Minhyuk Seo and Tingyu Qu and Tinne Tuytelaars and Jonghyun Choi},
journal= {arXiv preprint arXiv:2506.02011},
year = {2025}
}