RuDi:通过自动统计生成与规则蒸馏解释行为序列模型
机器学习
2022-08-17 v2 人工智能
摘要
风险评分系统已广泛应用于诸多场景,其根据用户的行为序列为用户分配风险分数。尽管许多设计精巧的深度学习方法取得了令人满意的结果,但其黑盒特性因公平性、可解释性和合规性考量而阻碍了应用。基于规则的系统在敏感场景中被认为是可靠的,然而构建规则系统耗费人力:专家需要从用户行为序列中找出有信息量的统计特征、基于统计特征设计规则并为每条规则赋权。本文弥合了有效但黑盒的模型与透明规则模型之间的鸿沟,提出一种两阶段方法 RuDi,将黑盒教师模型的知识蒸馏到基于规则的学生模型中。我们设计了一种基于蒙特卡洛树搜索的统计生成方法,可在第一阶段提供一组有信息量的统计特征;随后通过所提出的神经逻辑网络将统计特征组合为逻辑规则,以模仿教师模型的输出。我们在三个真实公开数据集和一个工业数据集上评估 RuDi,证明了其有效性。
引用
@article{arxiv.2208.07211,
title = {RuDi: Explaining Behavior Sequence Models by Automatic Statistics Generation and Rule Distillation},
author = {Yao Zhang and Yun Xiong and Yiheng Sun and Caihua Shan and Tian Lu and Hui Song and Yangyong Zhu},
journal= {arXiv preprint arXiv:2208.07211},
year = {2022}
}
备注
CIKM'2022. Codes: https://github.com/yzhang1918/cikm2022rudi