XFBoost：通过可控解码器改进文本生成
计算与语言
2022-02-17 v1
摘要
基于 transformer 的自然语言模型中的多模态条件性在商品描述生成任务中已展现出最先进的性能。近期的方法将一个或多个图像及其他文本元数据作为语言模型的条件，从而在描述电商店铺商品时达到接近人类的水平。然而，生成的商品描述相对于给定商品的输入可能表现出一定程度的不准确甚至矛盾的陈述。本文提出一种称为 Extract-Finetune-Boost (XFBoost) 的可控语言生成框架，以解决不准确低质量推理的问题。通过在生成过程的解码阶段使用视觉语义属性作为约束，并以策略梯度技术微调语言模型，XFBoost 框架被证明能生成显著更具描述性且与图像相关性更高的文本，优于基线模型并降低了事实不准确描述的出现频率。我们进一步展示了 XFBoost 在在线学习中的应用，其中人在回路的评判者通过主动反馈改进语言模型。
引用
@article{arxiv.2202.08124,
title = {XFBoost: Improving Text Generation with Controllable Decoders},
author = {Xiangyu Peng and Michael Sollami},
journal= {arXiv preprint arXiv:2202.08124},
year = {2022}
}