ViCo：利用人类偏好奖励生成引人互动的视频评论
计算机视觉与模式识别
2023-08-23 v1 计算与语言
摘要
引人互动的视频评论在视频社交媒体中扮演着重要角色，因为它们是观众情感、思想或幽默的载体。已有初步工作通过采用描述式字幕风格的编码器-解码器模型对视频评论生成进行了初步探索。然而，评论生成呈现出一些与字幕生成截然不同的独特挑战，使得这些方法在生成引人互动的评论时效果欠佳。与客观且描述性的字幕不同，评论往往具有内在主观性，难以量化并评估其互动性。此外，真正引人互动的评论的稀缺性给收集足够高质量训练样本带来了困难。在本文中，我们提出 ViCo，通过三项新颖设计来应对上述挑战以生成引人互动的视频评论（Video Comments）。首先，为量化评论的互动性，我们在适当的去偏程序后，将每条评论收到的“点赞”数作为人类偏好的代理。其次，为自动评估评论的互动性，我们训练了一个奖励模型以使其判断与上述代理对齐。我们的用户研究表明该奖励模型有效地与人类判断相一致。最后，为缓解高质量评论的稀缺性，初始生成器在易获取但含噪的数据上训练以生成评论，随后利用奖励模型对生成的评论提供反馈，从而优化初始生成器。为促进视频评论研究，我们从一流行视频网站收集了具有丰富元数据的大规模视频评论数据集（ViCo-20k）。在 ViCo-20k 上的实验表明，我们的 ViCo 模型生成的评论在定量与定性结果上均表现出最佳性能，尤其在考虑互动性时。
引用
@article{arxiv.2308.11171,
title = {ViCo: Engaging Video Comment Generation with Human Preference Rewards},
author = {Yuchong Sun and Bei Liu and Xu Chen and Ruihua Song and Jianlong Fu},
journal= {arXiv preprint arXiv:2308.11171},
year = {2023}
}