中文

FinBERT:基于预训练语言模型的金融情感分析

计算与语言 2019-08-28 v1 机器学习

摘要

由于金融领域语言的专门性以及标注数据的匮乏,金融情感分析是一项具有挑战性的任务。通用模型因金融语境中使用的专门语言而不够有效。我们假设预训练语言模型有助于解决该问题,因为它们需要更少的标注样本,并且可以在领域语料上进一步训练。我们提出了 FinBERT,一种基于 BERT 的语言模型,用于处理金融领域的 NLP 任务。我们的结果显示,在两个金融情感分析数据集上,各项已测指标均优于当前最优结果。我们发现,即便使用更小的训练集且仅微调模型的一部分,FinBERT 仍优于最优的机器学习方法。

关键词

引用

@article{arxiv.1908.10063,
  title  = {FinBERT: Financial Sentiment Analysis with Pre-trained Language Models},
  author = {Dogu Araci},
  journal= {arXiv preprint arXiv:1908.10063},
  year   = {2019}
}

备注

This thesis is submitted in partial fulfillment for the degree of Master of Science in Information Studies: Data Science, University of Amsterdam. June 25, 2019