DIVINE：用于数据可视化与模型精炼的多样化高影响训练点
机器学习
2021-07-14 v1 人工智能
计算机与社会
摘要
随着机器学习（ML）模型复杂度的增加，导致预测可解释性不足，已有若干方法被提出，用以根据对模型影响最大的训练数据点来解释模型行为。然而，这些方法往往将离群点标记为高影响点，限制了从业者从不具有训练数据代表性的点中获得的洞察。在本工作中，我们朝着寻找既能良好代表训练数据又具影响力的训练点迈出了一步。我们首先回顾了为训练点分配重要性分数的方法。给定重要性分数，我们提出了一种选取一组多样化高影响（DIVerse INfluEntial, DIVINE）训练点的方法，作为对模型行为的有用解释。由于从业者可能不仅关注相对于模型准确率具有影响力的数据点，也关注相对于其他重要指标具有影响力的数据点，我们展示了如何基于群体公平性来评估训练数据点。我们的方法能够识别引发不公平性的训练点，将其移除可改善公平性结果。我们的定量实验与用户研究表明，与早期方法相比，可视化 DIVINE 点有助于从业者更好地理解和解释模型行为。
引用
@article{arxiv.2107.05978,
title = {DIVINE: Diverse Influential Training Points for Data Visualization and Model Refinement},
author = {Umang Bhatt and Isabel Chien and Muhammad Bilal Zafar and Adrian Weller},
journal= {arXiv preprint arXiv:2107.05978},
year = {2021}
}
备注
30 pages, 32 figures