SafeAR：基于风险感知策略的安全算法补救

随着机器学习（ML）模型在金融和医疗等关键领域日益广泛的应用，为受 ML 模型决策不利影响的个体提供补救的需求变得愈发重要；应当为个体提供可采取行动的建议以改善其状况，从而获得有利决策。先前关于序列算法补救——即推荐一系列变更——的工作聚焦于动作可行性，并使用特征变更的邻近度来确定动作代价。然而，特征变更的不确定性以及补救中高于平均代价的危险未被考虑。若某种补救可能（以一定概率）导致更糟状况、且从中恢复需极高代价，则是不可取的。在计算和评估补救时纳入风险至关重要。我们将依此类风险考量计算出的补救称为安全算法补救（SafeAR）。其目标是使人们能依据自身风险容忍度选择补救。本文中，我们讨论并展示现有补救准则如何未能捕捉高代价风险。我们提出一种计算补救策略的方法，该方法考虑代价的变异性，并将算法补救文献与风险敏感强化学习相联系。我们还从金融文献中采用“风险价值”与“条件风险价值”测度来简洁地概括风险。我们将方法应用于两个真实数据集，并使用风险测度与补救准则（稀疏性与邻近度）比较不同风险厌恶水平的策略。