中文

EcoVal:一种高效的机器学习数据估值框架

机器学习 2024-07-10 v5

摘要

量化机器学习工作流中数据的价值,可以在机器学习项目中发挥关键作用,帮助做出更具战略性的决策。现有的基于Shapley值的机器学习数据估值框架计算成本高昂,因为它们需要大量重复训练模型来获取Shapley值。在本文中,我们介绍了一种高效的数据估值框架EcoVal,能够快速且实用地估计机器学习模型的数据价值。我们不直接处理单个数据样本,而是确定相似数据点簇的价值。该价值进一步传播给所有簇内成员点。我们表明,数据的总体价值可以通过估计每个数据的内在价值和外在价值来确定。这是通过将模型性能表述为\textit{生产函数}来实现的,该概念在传统自由经济市场中常用于根据劳动和资本等因素估算产出量。我们提供了估值技术的正式证明,并阐明了使其加速运行的原理和机制。我们通过展示该方法在分布内数据和样本外数据上的有效性,证明了其现实世界的适用性。这项工作解决了机器学习模型中大规模高效数据估值的核心挑战之一。代码见\underline{https://github.com/respai-lab/ecoval}。

关键词

引用

@article{arxiv.2402.09288,
  title  = {EcoVal: An Efficient Data Valuation Framework for Machine Learning},
  author = {Ayush K Tarun and Vikram S Chundawat and Murari Mandal and Hong Ming Tan and Bowei Chen and Mohan Kankanhalli},
  journal= {arXiv preprint arXiv:2402.09288},
  year   = {2024}
}

备注

KDD-2024