基于后验蒸馏的产品描述生成探究
计算与语言
2021-03-03 v1
摘要
在产品描述生成（PDG）中，用户关注方面对推荐系统至关重要，其不仅能改善用户体验，还能获得更多点击。高质量客户评论可视为挖掘用户关注方面的理想来源。然而现实中，大量新产品（即长尾商品）无法收集到足够数量的客户评论，这给产品描述生成任务带来巨大挑战。现有工作倾向于仅基于物品信息（即产品属性或标题词）生成产品描述，导致内容枯燥且无法有效吸引客户。为解决该问题，我们提出一种基于 Transformer 架构的自适应后验网络，可利用来自客户评论的用户关注信息。具体而言，我们首先扩展自注意力 Transformer 编码器以编码产品标题与属性。然后，应用自适应后验蒸馏模块利用有用的评论信息，将用户关注方面整合至生成过程。最后，我们采用带复制机制的基于 Transformer 的解码阶段自动生成产品描述。此外，我们还收集了一个大规模中文产品描述数据集以支撑本工作及该领域的进一步研究。实验结果表明，我们的模型在自动指标与人工评估上均优于传统生成模型。
引用
@article{arxiv.2103.01594,
title = {Probing Product Description Generation via Posterior Distillation},
author = {Haolan Zhan and Hainan Zhang and Hongshen Chen and Lei Shen and Zhuoye Ding and Yongjun Bao and Weipeng Yan and Yanyan Lan},
journal= {arXiv preprint arXiv:2103.01594},
year = {2021}
}