机器学习模型的可解释差分
机器学习
2023-06-14 v2
摘要
理解机器学习(ML)模型之间的差异在多种场景中都备受关注,从在一组竞争模型中择优选定,到用新训练数据更新已部署模型皆属此类。在这些情况下,我们希望超越准确率等整体指标的差异,识别差异发生于特征空间的何处。我们将这一模型差分问题形式化为:预测两个ML模型输出的相异度函数,且差异的表示需具备人类可解释性。我们的解决方案是学习联合代理树(JST),其由针对两模型的两个并联决策树代理构成。JST提供直观的差异表示,并将变化置于模型决策逻辑的背景中。背景至关重要,因其帮助用户将差异映射到AI系统的底层心智模型。我们还提出一种精炼过程以提升JST的精度。通过实证评估,我们证明此类上下文差分简洁明了,且相较朴素方法在不损失保真度的前提下即可实现。
引用
@article{arxiv.2306.06473,
title = {Interpretable Differencing of Machine Learning Models},
author = {Swagatam Haldar and Diptikalyan Saha and Dennis Wei and Rahul Nair and Elizabeth M. Daly},
journal= {arXiv preprint arXiv:2306.06473},
year = {2023}
}
备注
UAI 2023