面向关键决策的或可证明鲁棒模型中心解释
机器学习
2021-10-28 v1 人工智能
机器人学
摘要
我们建议使用模型中心的布尔可满足性(SAT)形式体系来获取关于已训练模型行为的有用解释,这不同于并补充于可从LIME和SHAP(人工智能(AI)中流行的数据中心解释工具)中窥得的内容。我们比较并对比了这些方法,表明数据中心方法可能产生实用性有限的脆弱解释。然而,模型中心框架能提供关于实践中使用AI模型风险的可操作洞见。对于AI的关键应用,瞬时决策最好由对数据属性不变的鲁棒解释来指导,而这正是模型中心框架所提供的能力。
引用
@article{arxiv.2110.13937,
title = {Provably Robust Model-Centric Explanations for Critical Decision-Making},
author = {Cecilia G. Morales and Nicholas Gisolfi and Robert Edman and James K. Miller and Artur Dubrawski},
journal= {arXiv preprint arXiv:2110.13937},
year = {2021}
}
备注
8 pages, 9 figures