改进决策稀疏性

稀疏性是机器学习中可解释性的核心方面。通常，稀疏性是根据模型的全局规模（例如其使用的变量数量）来衡量的。然而，这种稀疏性概念对于决策而言并不十分相关；受决策影响的人并不关心那些对决策没有贡献的变量。在这项工作中，我们大幅扩展了一种称为稀疏解释值 (SEV) 的决策稀疏性概念，使其解释更具意义。SEV 考虑沿着超立方体向参考点的移动。通过允许该参考点的灵活性，并考虑沿超立方体的距离如何转化为特征空间中的距离，我们可以为各种类型的函数类导出更稀疏且更具意义的解释。我们提出了基于聚类的 SEV 及其变体基于树的 SEV，引入了一种提高解释可信度的方法，并提出了优化机器学习模型中决策稀疏性的算法。