基于代理树的黑箱模型可解释规则创建方法——SRules
机器学习
2024-07-30 v1
摘要
随着人工智能 (AI) 系统在关键决策过程中的集成程度日益提升，对透明和可解释模型的需求日益重要。本文提出一种新的规则集创建方法，基于代理决策树 (SRules)，旨在提高黑箱机器学习模型的可解释性。SRules 通过递归创建代理可解释决策树模型来逼近复杂模型的决策边界，从而在准确性、覆盖范围和可解释性之间进行权衡。我们提出了一种系统框架，用于从这些代理模型中生成简洁且有意义的规则，使利益相关者能够理解和信任 AI 系统的决策过程。我们的方法不仅提供可解释规则，还量化这些规则的置信度和覆盖范围。该模型允许调整参数以抵消可解释性不足，通过精度和覆盖范围进行权衡，使某些模型部分实现近乎完美的拟合和高可解释性。结果表明，SRules 在其他当前最先进技术方面取得了改进，并引入了为模型的特定子区域创建高度可解释特定规则的可能性。
引用
@article{arxiv.2407.20070,
title = {An Interpretable Rule Creation Method for Black-Box Models based on Surrogate Trees -- SRules},
author = {Mario Parrón Verdasco and Esteban García-Cuesta},
journal= {arXiv preprint arXiv:2407.20070},
year = {2024}
}