Constraint-Data-Value-Maximization:利用数据归因在低数据环境下高效数据剪枝
人工智能
2026-05-13 v1
摘要
归因模型行为于训练数据是一个不断发展的研究领域。常见的基准是数据删除,即消除具有低值或高值的数据实例,然后评估在修改后的数据集上训练的模型性能。许多现有研究利用基于Shapley的值进行此项任务。在本文中,我们表明这些数据值在仅保留少量数据时的低值数据剪枝并非最佳选择。为此,我们引入Constraint-Data-Value-Maximization (CDVM)方法,有效利用数据归因在低数据情境下的剪枝。通过将剪枝建模为既最大化总影响又惩罚单一测试贡献过度的受限优化问题,CDVM在仅保留数据小部分比例时仍能提供稳健的性能。在OpenDataVal基准上,CDVM表现出色且运行时效应竞争。
引用
@article{arxiv.2605.11312,
title = {Constraint-Data-Value-Maximization: Utilizing Data Attribution for Effective Data Pruning in Low-Data Environments},
author = {Danilo Brajovic and David A. Kreplin and Marco F. Huber},
journal= {arXiv preprint arXiv:2605.11312},
year = {2026}
}
备注
Accepted for publication at IJCAI 2026