中文

TRIAGE:面向改进回归的训练数据刻画与审计

机器学习 2023-10-31 v1

摘要

数据质量对于鲁棒的机器学习算法至关重要,近期以数据为中心的人工智能(AI)研究热潮也凸显了训练数据刻画的重要性。然而,当前数据刻画方法多聚焦于分类场景,回归场景研究明显不足。为此,我们提出 TRIAGE,一种专为回归任务设计且与广泛回归器兼容的新型数据刻画框架。TRIAGE 利用保形预测分布提供模型无关评分方法——TRIAGE 分数。我们将该分数用于分析单个样本的训练动态,并将样本刻画为被模型欠估计、过估计或良好估计。我们展示了 TRIAGE 刻画的一致性,并凸显其在多种回归场景下通过数据雕塑/过滤提升性能的效用。此外,在样本层面之外,我们表明 TRIAGE 可实现数据集选择与特征获取的新途径。总体而言,TRIAGE 彰显了现实回归应用中数据刻画所释放的价值。

关键词

引用

@article{arxiv.2310.18970,
  title  = {TRIAGE: Characterizing and auditing training data for improved regression},
  author = {Nabeel Seedat and Jonathan Crabbé and Zhaozhi Qian and Mihaela van der Schaar},
  journal= {arXiv preprint arXiv:2310.18970},
  year   = {2023}
}

备注

Presented at NeurIPS 2023