RoCourseNet：预测感知补救模型的分布鲁棒训练
机器学习
2023-08-21 v2
摘要
机器学习(ML)模型的反事实(CF)解释受到终端用户的青睐，因为它们通过向受预测结果不利影响的个体提供补救（或对比）案例来解释 ML 模型的预测。现有的 CF 解释方法在底层目标 ML 模型随时间保持静止的假设下生成补救。然而，由于训练数据中普遍发生的分布偏移，ML 模型在实践中不断更新，这可能使先前生成的补救失效，并削弱终端用户对算法框架的信任。为解决此问题，我们提出 RoCourseNet，一种联合优化预测和对未来数据偏移鲁棒的补救的训练框架。本工作包含四项关键贡献：(1) 我们将鲁棒补救生成问题表述为一个三层优化问题，其包含两个子问题：(i) 一个寻找训练数据中最坏情况对抗偏移的双层问题，以及 (ii) 一个针对该最坏情况偏移生成鲁棒补救的外层最小化问题。(2) 我们利用对抗训练求解该三层优化问题：(i) 提出一种新颖的虚拟数据偏移(VDS)算法，通过显式考虑训练数据集中的最坏情况数据偏移来寻找最坏情况偏移的 ML 模型，以及 (ii) 一种块坐标下降过程来优化预测及相应的鲁棒补救。(3) 我们在三个真实世界数据集上评估 RoCourseNet 的性能，表明 RoCourseNet 一致地实现超过 96% 的鲁棒有效性，并在生成鲁棒 CF 解释方面比最先进的基线至少高出 10%。(4) 最后，我们将 RoCourseNet 框架推广以适配任何参数化事后方法来提升鲁棒有效性。
引用
@article{arxiv.2206.00700,
title = {RoCourseNet: Distributionally Robust Training of a Prediction Aware Recourse Model},
author = {Hangzhi Guo and Feiran Jia and Jinghui Chen and Anna Squicciarini and Amulya Yadav},
journal= {arXiv preprint arXiv:2206.00700},
year = {2023}
}