KDSM：一种基于知识蒸馏与样本匹配的提升建模框架
机器学习
2023-03-07 v1 人工智能
摘要
提升建模（uplift modeling）旨在估计对个体的处理效应，广泛应用于电子商务平台以定位可说服客户并最大化营销活动回报。在现有提升建模方法中，基于树的方法擅长拟合增量与泛化，而基于神经网络的模型擅长预测绝对值与精度，这些优势尚未被充分挖掘与结合。此外，反事实样本对的缺乏是提升建模的根本挑战。本文提出一种基于知识蒸馏与样本匹配（KDSM）的提升建模框架。教师模型为提升决策树（UpliftDT），利用其结构构造反事实样本对，并将成对增量预测作为学生模型的另一目标。在多任务学习思想下，学生模型可在泛化上取得更好性能甚至超越教师。大量离线实验验证了不同师生模型组合的普适性以及KDSM相较基线的优越性。在线A/B测试中，每增量间夜成本降低6.5%。
引用
@article{arxiv.2303.02980,
title = {KDSM: An uplift modeling framework based on knowledge distillation and sample matching},
author = {Chang Sun and Qianying Li and Guanxiang Wang and Sihao Xu and Yitong Liu},
journal= {arXiv preprint arXiv:2303.02980},
year = {2023}
}