概念漂移中的误导性相关性：解释性交互能否有帮助？
机器学习
2024-07-24 v1
摘要
长期运行的机器学习模型面临概念漂移 (CD) 的问题，即数据分布随时间变化，妨碍预测性能。需要通过监控数据和/或模型以检测漂移来更新模型。我们指出，尽管误导性相关性 (SCs) 会破坏由检测算法跟踪的统计数据。受此启发，我们引入 ebc-exstream，这是一个新型检测器，利用模型解释来识别潜在的 SCs 并借助人类反馈进行纠正。它利用基于熵的启发式方法减少必要的反馈量，从而降低标注成本。我们的初步实验在人工混淆数据上凸显了 ebc-exstream 在减少 SCs 对检测影响方面的潜力。
引用
@article{arxiv.2407.16515,
title = {Spurious Correlations in Concept Drift: Can Explanatory Interaction Help?},
author = {Cristiana Lalletti and Stefano Teso},
journal= {arXiv preprint arXiv:2407.16515},
year = {2024}
}
备注
Extended abstract