解释属性之间的透明权衡
机器学习
2025-07-22 v2
摘要
在解释黑箱机器学习模型时，解释通常需要具备某些可取的属性。大多数现有方法在构建解释时会 "鼓励" 具备这些属性。本文我们展示，这些形式的鼓励并不一致地创建具有所谓目标属性的解释。此外，它们不允许在不同属性彼此冲突时控制优先级。我们提出直接针对所需属性优化解释。我们的方法不仅更一致地产生具有最佳属性的解释，还使用户能够控制不同属性之间的权衡，使他们能够为特定任务创建恰好所需的解释。
引用
@article{arxiv.2410.23880,
title = {Transparent Trade-offs between Properties of Explanations},
author = {Hiwot Belay Tadesse and Alihan Hüyük and Yaniv Yacoby and Weiwei Pan and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:2410.23880},
year = {2025}
}