关于最小化数据集偏移对可操作解释影响的研究

解释权是一项重要的监管原则，允许个人请求对算法决策的可操作解释。然而，在实践中提供此类可操作解释时会出现若干技术挑战。例如，模型会周期性地重新训练以应对数据集偏移。此过程可能使先前给出的一些解释失效，从而使其不可操作。但是，尚不清楚此类失效是否以及何时发生，以及哪些因素决定了解释稳定性，即解释在由于数据集偏移的模型重训练过程中是否保持不变。在本文中，我们解决上述空白，并提供对影响解释稳定性的因素的首批理论与实证刻画之一。为此，我们进行严谨的理论分析以证明模型曲率、训练时的权重衰减参数以及数据集偏移的幅度是决定解释（不）稳定性程度的关键因素。使用真实世界数据集的广泛实验不仅验证了我们的理论结果，还表明上述因素对各种最先进方法生成的解释稳定性有显著影响。