基于任务特定嵌入变换与注意力网络的多个人口属性预测
机器学习
2019-03-26 v1 机器学习
摘要
大多数公司利用人口统计信息来制定其市场策略。然而,此类信息对大多数零售公司并不可用。已有若干研究致力于从用户交易历史中预测其人口属性,但这些研究存在一定局限。首先,它们侧重于参数共享以预测所有属性,但在多任务学习中捕获任务特定特征同样重要。其次,它们假设所有交易在预测人口属性时同等重要。然而,某些交易对于预测特定属性比其他交易更有用。此外,模型以黑盒方式工作,其决策过程无法解释。为克服上述局限,我们提出一种带注意力的嵌入变换网络(ETNA)模型,该模型在模型结构底层共享表示,并使用简单的线性变换方法将其转化为任务特定表示。此外,我们利用注意力机制获取对预测特定属性更具信息量的交易。实验结果表明,我们的模型在所有任务上均优于先前的模型。在定性分析中,我们展示了注意力权重的可视化,为业务管理者提供了一些有用的洞察。
引用
@article{arxiv.1903.10144,
title = {Predicting Multiple Demographic Attributes with Task Specific Embedding Transformation and Attention Network},
author = {Raehyun Kim and Hyunjae Kim and Janghyuk Lee and Jaewoo Kang},
journal= {arXiv preprint arXiv:1903.10144},
year = {2019}
}
备注
SDM 2019