我的模型为何失败？面向零售预测的对比式局部解释
人机交互
2021-08-20 v2 人工智能
机器学习
摘要
在多种业务场景中，人们有兴趣使用更复杂的机器学习技术进行销售预测。很难说服分析师及其上级采纳这些技术，因为即便它们优于当前在用模型，这些模型也被视为“黑盒”。我们考察了关于大误差的对比式解释对用户面对“黑盒”模型态度的影响。我们提出一种算法——合理预测的蒙特卡洛边界（Monte Carlo Bounds for Reasonable Predictions, MC-BRP）。给定一个大误差，MC-BRP 基于蒙特卡洛模拟确定（1）会导致合理预测的特征取值，以及（2）各特征与目标之间的总体趋势。我们通过在真实数据集上以 75 名参与者进行用户研究来评估，以确定 MC-BRP 生成的解释是否帮助用户理解预测为何导致大误差，以及这是否促进对自动学习模型的信任。我们的研究表明，当提供这些对比式解释时，用户能以总体 81.1% 的准确率回答关于模型预测的客观问题。我们显示，看到 MC-BRP 解释的用户比对照组用户显著更理解模型为何产生大预测误差。我们还对从业者与研究者在态度上的差异进行了深入分析，并确认在控制用户背景时我们的结果依然成立。
引用
@article{arxiv.1908.00085,
title = {Why Does My Model Fail? Contrastive Local Explanations for Retail Forecasting},
author = {Ana Lucic and Hinda Haned and Maarten de Rijke},
journal= {arXiv preprint arXiv:1908.00085},
year = {2021}
}
备注
To appear in ACM FAT* 2020