基于多域Transformer的反事实增强方法及其在财报电话会议分析中的应用
机器学习
2021-12-06 v2 人工智能
计算工程、金融与科学
信息检索
摘要
财报电话会议（EC）作为上市公司的周期性电话会议，因其对公司基本面具有很高的分析价值，已被广泛研究作为一种重要的市场指标。近年来深度学习技术的出现，在为EC支持的金融应用构建自动化流程方面展现出巨大潜力。然而，这些方法假定所有包含的内容都具有信息量，未能从长文本记录中提炼有价值的语义，并且面临EC数据稀缺的问题。同时，这些黑盒方法在提供人类可理解的解释方面存在固有困难。为此，本文提出一种基于多域Transformer的反事实增强方法，称为MTCA，以解决上述问题。具体而言，我们首先提出一种基于Transformer的EC编码器，以注意力机制量化关键EC内容对市 inferences 的任务驱动重要性。然后，开发一个多域反事实学习框架，在利用丰富的跨域文档扰动有限的EC信息文本后评估基于梯度的变化，使MTCA能够执行无监督数据增强。作为额外收获，我们发现了一种使用非训练数据作为基于实例的解释的方法，并通过案例研究展示了结果。在真实世界金融数据集上的大量实验表明，可解释的MTCA将最先进方法的波动率评估能力在准确率上提升了14.2%。
引用
@article{arxiv.2112.00963,
title = {Multi-Domain Transformer-Based Counterfactual Augmentation for Earnings Call Analysis},
author = {Zixuan Yuan and Yada Zhu and Wei Zhang and Ziming Huang and Guangnan Ye and Hui Xiong},
journal= {arXiv preprint arXiv:2112.00963},
year = {2021}
}