面向可控情感文本生成的语言模型适配
计算与语言
2020-11-10 v1 人工智能
机器学习
摘要
人类使用语言不仅是为了传递信息,也是为了表达内在感受与心理状态。在本工作中,我们适配最先进的语言生成模型以生成情感(情绪)文本。我们假定一种模型能够在情感强度增加的同时,生成由情感驱动且聚焦主题的语句而不丧失语法正确性。我们提出将情绪作为诸如 GPT-2 等概率最先进文本生成模型的先验。该模型使用户能够灵活控制所生成文本的情绪类别与强度以及主题。先前对细粒度情绪建模的尝试在极端强度下会出现语法正确性问题,但我们的模型对此具有鲁棒性,并在所有强度下均给出稳健结果。我们开展自动化评估与人工研究以检验模型性能,并提供与其他模型结果的详细对比。在所有评估中,我们的模型均优于现有的情感文本生成模型。
引用
@article{arxiv.2011.04000,
title = {Adapting a Language Model for Controlled Affective Text Generation},
author = {Ishika Singh and Ahsan Barkati and Tushar Goswamy and Ashutosh Modi},
journal= {arXiv preprint arXiv:2011.04000},
year = {2020}
}
备注
15 Pages (9 + 2 (references) + 4 (appendix)), accepted at COLING 2020