Pyreal：一个用于可解释机器学习解释的框架

许多领域的用户利用机器学习（ML）预测来辅助决策。有效的基于 ML 的决策通常需要对 ML 模型及其预测进行解释。尽管现有许多用于解释模型的算法，但以决策者能够理解且有用的格式生成解释并非易事，可能需要大量的开发开销。我们开发了 Pyreal，这是一个具有相应 Python 实现的高度可扩展系统，用于生成多种可解释的 ML 解释。Pyreal 能够在模型、相关解释算法以及人类用户所期望的特征空间之间转换数据和解释，允许用户以低代码方式生成可解释的解释。我们的研究表明，与现有系统相比，Pyreal 能生成更有用的解释，同时保持易用性和高效性。