无预弃的预测：基于可达集的救济验证

机器学习模型常用于决定谁获得贷款、工作面试或公共福利。此类环境中的模型使用特征时并未考虑其可操作性。因此，它们可能给出固定的预测——即事实上被拒贷和拒面者被预弃于信贷与就业渠道之外。本文引入一种称为救济验证（recourse verification）的流程，以检验模型是否对其决策对象给出了固定预测。我们提出一种基于可达集（即个体通过其在特征空间中的行动所能到达的所有点的集合）的模型无关救济验证方法。我们发展了针对离散特征空间构造可达集的方法，其仅需查询模型预测即可证明任意模型的响应性。我们在消费金融数据集上开展了关于救济不可行性的综合实证研究。结果凸显了模型如何通过分配固定预测而无意中预弃访问，并强调在模型开发中考虑可操作性的必要。