TAROT：基于最优传输的目标数据选择框架
机器学习
2025-07-04 v2 计算机视觉与模式识别
机器学习
摘要
我们提出了TAROT，一种基于最优传输理论的目标数据选择框架。以往的目标数据选择方法主要依赖于基于影响力的贪心启发式方法，以提高特定领域的性能。虽然在有限且单模态数据（即遵循单一模式的数据）上效果良好，但随着目标数据复杂度的增加，这些方法将难以胜任。具体而言，在多模态分布中，这些启发式方法未能考虑多种内在模式，导致数据选择次优。本工作识别了两种主要因素导致这一局限的原因：(i) 在高维影响估计中，主导特征组件的影响力度不成比例；(ii) 贪心选择策略中固有的线性可加假设具有限制。为应对这些挑战，TAROT采用whitened feature distance来缓解主导特征偏置，提供更可靠的数据影响度量。基于此，TAROT利用whitened feature distance来量化并最小化所选数据与目标领域之间的最优传输距离。显著的是，这种最小化也有助于估计最优选择比率。在多个任务上评估了TAROT，包括语义分割、运动预测和指令调优。结果一致显示，TAROT超越了最先进的方法，凸显了其在各种深度学习任务中的多样性。代码已公开于https://github.com/vita-epfl/TAROT。
引用
@article{arxiv.2412.00420,
title = {TAROT: Targeted Data Selection via Optimal Transport},
author = {Lan Feng and Fan Nie and Yuejiang Liu and Alexandre Alahi},
journal= {arXiv preprint arXiv:2412.00420},
year = {2025}
}