黑盒模型时序算法补救的摊销生成
机器学习
2021-12-20 v2 人工智能
摘要
可解释机器学习（ML）近年来因ML基系统在多领域的日益采用而受到关注。算法补救（ARs）提供“如果”形式的反馈，如“若输入数据点由x变为x'，则ML基系统的输出将由y变为y'。”ARs因其可操作的反馈、对现有法律框架的适用性以及对底层ML模型的保真度而具吸引力。然而，当前AR方法是单步的——即假设x可在单一时间段内变为x'。我们提出一种基于随机控制的新方法，生成时序ARs，即允许x经由中间状态随机且顺序地移动至最终状态x'的ARs。我们的方法为模型无关且黑盒。此外，AR的计算被摊销，使得一旦训练完成，便可应用于多个数据点而无需重新优化。除这些主要特性外，我们的方法支持可选的理想性质，如遵循数据流形、尊重因果关系以及稀疏性——这些被过往研究认定为ARs的理想属性。我们使用三个真实世界数据集评估了我们的方法，并展示了成功生成尊重其他补救理想的时序ARs。
引用
@article{arxiv.2106.03962,
title = {Amortized Generation of Sequential Algorithmic Recourses for Black-box Models},
author = {Sahil Verma and Keegan Hines and John P. Dickerson},
journal= {arXiv preprint arXiv:2106.03962},
year = {2021}
}
备注
Accepted at AAAI 2022