HGV4Risk:面向风险预测的层次化全局视图引导序列表示学习
机器学习
2022-11-16 v1 人工智能
风险管理
摘要
风险预测作为典型的时间序列建模问题,通常通过从序列数据中学习标记或历史行为的趋势来实现,并已广泛应用于医疗与金融领域。近年来,深度学习模型,尤其是长短期记忆神经网络(LSTM),在此类序列表示学习任务中取得了优越性能。尽管一些基于注意力或自注意力且具备时间感知或特征感知增强策略的模型相较于其他时序建模方法取得了更好性能,但由于缺乏全局视图引导,此类改进有限。为解决该问题,我们提出一种新颖的端到端层次化全局视图引导(HGV)序列表示学习框架。具体而言,提出全局图嵌入(GGE)模块,从实例级时间关联图中学习序列片段感知表示。此外,遵循键值注意力方式,还发展了调和 -注意力(-Attn),用于在通道级自适应地权衡时间感知衰减与观测显著性。进而,在全局视图引导下,实例级与通道级的层次化表示可通过异质信息聚合进行协调。在医疗风险预测基准数据集,以及蚂蚁集团网商银行中小企业(SMEs)信用逾期风险预测真实工业场景上的实验结果均表明,所提模型相较于其他已知基线可实现具有竞争力的预测性能。
引用
@article{arxiv.2211.07956,
title = {HGV4Risk: Hierarchical Global View-guided Sequence Representation Learning for Risk Prediction},
author = {Youru Li and Zhenfeng Zhu and Xiaobo Guo and Shaoshuai Li and Yuchen Yang and Yao Zhao},
journal= {arXiv preprint arXiv:2211.07956},
year = {2022}
}
备注
12 pages, 10 figures