用于移动应用用户反馈自动回复生成的预训练神经语言模型
计算与语言
2022-02-07 v1 机器学习
软件工程
摘要
研究表明，开发者在应用商店上对移动应用用户反馈的回复可提升应用的星级评分。为帮助应用开发者生成与用户问题相关的回复，近期研究开发了自动生成回复的模型。目的：应用回复生成模型使用深度神经网络且需要训练数据。自然语言处理（NLP）中使用的预训练神经语言模型（PTM）利用了从无监督大规模语料中学习到的信息，并可减少所需训练数据量。本文中，我们评估 PTM 以生成对移动应用用户反馈的回复。方法：我们从头训练一个 Transformer 模型并微调两个 PTM 以评估生成的回复，并与现有应用回复模型 RRGEN 比较。我们还以不同比例的训练数据评估各模型。结果：在大型数据集上以自动指标评估的结果显示 PTM 得分低于基线。然而，我们的人工评估证实 PTM 能生成与所发布反馈更相关且更有意义的回复。此外，当训练数据量减少至 1/3 时，PTM 性能相较于其他模型下降更少。结论：PTM 在生成应用评论回复方面有用，且对所给训练数据量更具鲁棒性。但预测时间为 RRGEN 的 19 倍。本研究可为适配 PTM 分析移动应用用户反馈的研究提供新途径。索引词—移动应用用户反馈分析，神经预训练语言模型，自动回复生成
引用
@article{arxiv.2202.02294,
title = {Pre-Trained Neural Language Models for Automatic Mobile App User Feedback Answer Generation},
author = {Yue Cao and Fatemeh H. Fard},
journal= {arXiv preprint arXiv:2202.02294},
year = {2022}
}
备注
6 pages, published in the 2021 ASE RAISE workshop