基于标记时间点的可解释历史蒸馏
机器学习
2023-11-15 v1
摘要
当研究者将这些通常被视为黑盒的机器学习模型引入现实任务，尤其是高风险任务时，模型的可解释性是必需的。本文中，我们构建了一个机器学习系统，基于时间时间点过程（temporal point process, TPP）通过上下文感知（context-aware, CA）自动从历史事件生成解释。具体而言，我们提出了一项称为可解释历史蒸馏（explainable history distillation, EHD）的新任务。该任务要求模型从观测历史中蒸馏出尽可能少的事件，目标是基于保留事件的条件事件分布对观测未来的预测明显变差。我们随后将蒸馏出的事件视为对未来的解释。为高效求解 EHD，我们将该任务重写为一个 0-1 整数规划（0-1 integer program, 01IP），并通过称为 MTP（marked temporal point process model）的模型直接估计该规划的解。本工作填补了我们的任务与现有工作之间的空白，现有工作仅在对环境施加预定义修改后，指出事实世界与反事实世界之间的差异。在 Retweet 与 StackOverflow 数据集上的实验结果证明，MTP 显著优于其他 EHD 基线，并能揭示现实世界过程背后的基本原理。
引用
@article{arxiv.2311.07797,
title = {Explainable History Distillation by Marked Temporal Point Process},
author = {Sishun Liu and Ke Deng and Yan Wang and Xiuzhen Zhang},
journal= {arXiv preprint arXiv:2311.07797},
year = {2023}
}