SubZeroCore：一种零训练的核心集选择次模方法
机器学习
2025-09-29 v1 人工智能
摘要
核心集选择的目标是识别数据集的代表性子集，以实现高效模型训练。然而，现有方法却矛盾地需要昂贵的基于训练的信号（例如梯度、决策边界估计或遗忘计数），这些信号是在剪枝前对整个数据集计算得到的，这通过要求在旨在避免的样本上进行训练，破坏了其初衷。我们引入了 SubZeroCore，一种新颖的免训练核心集选择方法，该方法将次模覆盖率和密度整合到一个单一的统一目标中。为此，我们引入了一种基于闭式解的采样策略，以在由单一超参数引导下最优地平衡这些目标，该超参数明确控制局部密度度量所需的覆盖率。尽管无需训练，大量评估表明 SubZeroCore 匹配了基于训练的基线，并在高剪枝率下显著优于它们，同时大幅减少了计算开销。SubZeroCore 还展示了对标签噪声的卓越鲁棒性，突显了其在现实场景中的实用性和可扩展性。
引用
@article{arxiv.2509.21748,
title = {SubZeroCore: A Submodular Approach with Zero Training for Coreset Selection},
author = {Brian B. Moser and Tobias C. Nauen and Arundhati S. Shanbhag and Federico Raue and Stanislav Frolov and Joachim Folz and Andreas Dengel},
journal= {arXiv preprint arXiv:2509.21748},
year = {2025}
}