演化数据流中局部可解释性的变化检测

随着复杂机器学习模型在银行、交易或信用评分等敏感应用中的日益使用，对可靠解释机制的需求不断增长。局部特征归因方法已成为一种流行的后验且与模型无关的解释技术。然而，归因方法通常假设预测模型所训练并维持稳定的平稳环境。因此，在流式和在线应用等真实的持续演化环境中，局部归因的行为往往不明确。本文讨论了时间变化对局部特征归因的影响。特别地，我们表明，每当预测模型更新或概念漂移改变数据生成分布时，局部归因就可能过时。因此，数据流中的局部特征归因只有结合一种允许我们检测并响应随时间局部变化的机制时，才具有高解释力。为此，我们提出 CDLEEDS，一个用于检测局部变化和概念漂移的灵活且与模型无关的框架。CDLEEDS 作为基于归因的解释技术的直观扩展，用于识别过时的局部归因并实现更有针对性的重算。在实验中，我们还表明所提框架能可靠地检测局部和全局概念漂移。相应地，我们的工作有助于在线机器学习中更有意义和更鲁棒的可解释性。