iPDP：动态建模场景中的偏依赖图
机器学习
2023-10-31 v1 人工智能
信号处理
摘要
事后解释技术，如成熟的用于探究特征依赖的偏依赖图（PDP），被用于可解释人工智能（XAI）中以理解黑盒机器学习模型。尽管许多现实应用需要随时间持续适应并响应底层分布变化的动态模型，但 XAI 迄今主要考虑静态学习环境，其中模型以批模式训练且保持不变。因此我们提出一种称为增量 PDP（iPDP）的新型模型无关 XAI 框架，其扩展 PDP 以在非平稳学习环境中提取时间相关特征效应。我们形式化分析 iPDP 并表明其近似了能恰当响应真实与虚拟概念漂移的 PDP 时间相关变体。iPDP 的时间敏感性由单一平滑参数控制，该参数在静态学习环境中直接对应于 iPDP 的方差与近似误差。我们通过展示一个漂移检测示例应用并在真实世界与合成数据集及流上开展多项实验来说明 iPDP 的有效性。
引用
@article{arxiv.2306.07775,
title = {iPDP: On Partial Dependence Plots in Dynamic Modeling Scenarios},
author = {Maximilian Muschalik and Fabian Fumagalli and Rohit Jagtani and Barbara Hammer and Eyke Hüllermeier},
journal= {arXiv preprint arXiv:2306.07775},
year = {2023}
}
备注
This preprint has not undergone peer review or any post-submission improvements or corrections