可解释分类规则的高效学习

机器学习已无处不在，并应用于医疗、法律和交通等各种安全关键领域。在这些领域中，机器学习提供的高风险决策要求研究者设计可解释模型，使预测能为人类所理解。在可解释机器学习中，基于规则的分类器尤其擅长通过一组包含输入特征的规则来表示决策边界。基于规则的分类器的可解释性通常与其规则规模相关，规则越小被认为越可解释。为学习此类分类器，暴力直接方法是考虑一个优化问题，试图学习具有接近最大精度的最小分类规则。该优化问题因其组合性质而在计算上难以处理，因此在大型数据集中不可扩展。为此，本文研究了基于规则分类器的准确性、可解释性和可扩展性之间的三角关系。本文的贡献是一个名为 IMLI 的可解释学习框架，它基于最大可满足性（MaxSAT）来合成可用命题逻辑表示的分类规则。尽管过去十年 MaxSAT 求解取得进展，直接的基于 MaxSAT 的解决方案仍无法扩展。因此，我们通过集成小批量学习和迭代规则学习，在 MaxSAT 表述中引入一种高效的增量学习技术。在我们的实验中，IMLI 在预测准确性、可解释性和可扩展性之间取得了最佳平衡。作为一个应用，我们将 IMLI 部署于学习流行的可解释分类器，如决策列表和决策集。