经济领域的论证性文本生成
计算与语言
2022-06-22 v1
摘要
GPT-3、T5、Switch Transformer、ERNIE 等大型与超大型语言模型的发展，显著提升了文本生成的性能。该领域的重要研究方向之一是生成带有论证的文本。该问题的解决方案可用于商务会议、政治辩论、对话系统以及学生论文准备。这些应用的主要领域之一是经济领域。面向俄语的论证文本生成的关键问题在于缺乏标注的论证语料库。本文使用 Argumentative Microtext、Persuasive Essays 和 UKP Sentential 语料库的翻译版本对 RuBERT 模型进行微调。随后，利用该模型对经济新闻语料库进行论证标注。然后，使用标注后的语料库微调 ruGPT-3 模型以生成论证文本。结果表明，与原始 ruGPT-3 模型相比，该方法将论证生成的准确率提高了超过 20 个百分点（63.2% 对比 42.5%）。
引用
@article{arxiv.2206.09251,
title = {Argumentative Text Generation in Economic Domain},
author = {Irina Fishcheva and Dmitriy Osadchiy and Klavdiya Bochenina and Evgeny Kotelnikov},
journal= {arXiv preprint arXiv:2206.09251},
year = {2022}
}
备注
Accepted by Dialogue-2022 conference