FinBERT:基于预训练语言模型的金融情感分析
计算与语言
2019-08-28 v1 机器学习
摘要
由于金融领域语言的专门性以及标注数据的匮乏,金融情感分析是一项具有挑战性的任务。通用模型因金融语境中使用的专门语言而不够有效。我们假设预训练语言模型有助于解决该问题,因为它们需要更少的标注样本,并且可以在领域语料上进一步训练。我们提出了 FinBERT,一种基于 BERT 的语言模型,用于处理金融领域的 NLP 任务。我们的结果显示,在两个金融情感分析数据集上,各项已测指标均优于当前最优结果。我们发现,即便使用更小的训练集且仅微调模型的一部分,FinBERT 仍优于最优的机器学习方法。
引用
@article{arxiv.1908.10063,
title = {FinBERT: Financial Sentiment Analysis with Pre-trained Language Models},
author = {Dogu Araci},
journal= {arXiv preprint arXiv:1908.10063},
year = {2019}
}
备注
This thesis is submitted in partial fulfillment for the degree of Master of Science in Information Studies: Data Science, University of Amsterdam. June 25, 2019