基于联盟策略的高效个体预测解释方法
机器学习
2021-05-25 v1
摘要
随着机器学习(ML)在研究与工业诸多领域的广泛应用,理解黑箱内部运行机制的需求日益增长,尤其是来自非专业用户的需求。已有若干方法可为特定观测提供模型预测的清晰洞察,但往往计算耗时较长或假设条件受限,未能充分考虑属性间的交互作用。本文提出基于检测影响预测的相关属性组——称为联盟(coalitions)——的方法,并与现有文献进行比较。结果表明,这些联盟方法比 SHapley Additive exPlanation (SHAP) 等已有方法更高效:在保持可接受的个体预测解释精度的同时缩短了计算时间。因此,这使得解释方法能在更广的实际场景中应用,从而增进已开发 ML 模型、终端用户以及受这些模型所参与决策影响的各方之间的信任。
引用
@article{arxiv.2104.00765,
title = {Coalitional strategies for efficient individual prediction explanation},
author = {Gabriel Ferrettini and Elodie Escriva and Julien Aligon and Jean-Baptiste Excoffier and Chantal Soulé-Dupuy},
journal= {arXiv preprint arXiv:2104.00765},
year = {2021}
}
备注
Paper submitted to Information Systems Frontiers (Special Issue of the ADBIS 2020 conference)