面向分布外序列事件预测：一种因果处理方法
机器学习
2023-01-18 v2 信息检索
摘要
序列事件预测的目标是基于历史事件序列估计下一事件，其应用包括序列推荐、用户行为分析与临床治疗。在实践中，下一事件预测模型使用某一时刻收集的序列数据进行训练，需要泛化到遥远未来新到达的序列，这要求模型处理从训练到测试的时间分布偏移。本文中，我们首先从数据生成视角揭示一个负面结果：由于潜在的上下文混杂因子（即历史事件与下一事件的共因），现有基于最大似然估计的方法在分布偏移下会失效。随后我们基于后门调整设计了新的学习目标，并进一步利用变分推断使其在序列学习问题中可解。在此基础上，我们提出一个具有分层分支结构以学习上下文特定表示的框架。在多种任务（如序列推荐）上的综合实验证明了我们的方法以各类现成模型为骨干时的有效性、适用性与可扩展性。
引用
@article{arxiv.2210.13005,
title = {Towards Out-of-Distribution Sequential Event Prediction: A Causal Treatment},
author = {Chenxiao Yang and Qitian Wu and Qingsong Wen and Zhiqiang Zhou and Liang Sun and Junchi Yan},
journal= {arXiv preprint arXiv:2210.13005},
year = {2023}
}
备注
in NeurIPS 2022