重标最小训练子集以翻转预测
机器学习
2024-02-06 v4 人工智能
机器学习
摘要
当面对机器学习模型不令人满意的预测时，用户可能有兴趣调查潜在原因并探索逆转结果的可能性。我们提出：要在测试点上翻转预测，如何识别我们需要重标的最小训练子集？我们提出了一种高效算法，通过扩展的影响函数，针对具有凸损失的二分类模型来识别并重标这样的子集。我们发现重标少于2%的训练点总能翻转一个预测。该机制可服务于多个目的：（1）提供一种通过更改训练点来挑战模型预测的方法；（2）用子集的基数（即）评估模型鲁棒性；我们表明与训练集中的噪声比高度相关，且与预测概率相关但互补；（3）揭示导致群体归因偏见的训练点。据我们所知，我们是首个研究识别并重标翻转给定预测所需的最小训练子集的工作。
引用
@article{arxiv.2305.12809,
title = {Relabeling Minimal Training Subset to Flip a Prediction},
author = {Jinghan Yang and Linjie Xu and Lequan Yu},
journal= {arXiv preprint arXiv:2305.12809},
year = {2024}
}