NumHTML：面向数值的分层 Transformer 模型用于多任务金融预测
机器学习
2022-01-07 v1 人工智能
计量经济学
摘要
金融预测因其所面临的挑战以及预测精度或预报哪怕微小提升都可能带来的潜在回报，一直是机器学习研究中重要且活跃的领域。传统上，金融预测严重依赖源自结构化财务报表的定量指标与度量。包括文本与音频在内的盈利电话会议数据，是一种重要的非结构化数据来源，已被用于基于深度学习和相关方法的多种预测任务。然而，当前基于深度学习的方法在处理数值数据方面存在局限：数字通常被视为普通文本词元，未能利用其底层的数值结构。本文提出一种面向数值的分层 transformer 模型，通过利用不同类别的数字（货币、时间、百分比等）及其数量级，基于多模态对齐的盈利电话会议数据来预测股票收益与金融风险。我们使用真实公开的可用数据集，将 NumHTML 与若干最先进基线进行了全面评估。结果表明，NumHTML 在多种评估指标上显著优于当前最先进水平，并有望在实际交易环境中带来显著的财务收益。
引用
@article{arxiv.2201.01770,
title = {NumHTML: Numeric-Oriented Hierarchical Transformer Model for Multi-task Financial Forecasting},
author = {Linyi Yang and Jiazheng Li and Ruihai Dong and Yue Zhang and Barry Smyth},
journal= {arXiv preprint arXiv:2201.01770},
year = {2022}
}
备注
Accepted to AAAI-22