DanModCap：一种面向视频共享平台的弹幕 moderation 工具——利用大语言模型结合冲击标题

在线视频平台因其支持信息消费与分享以及多样化社交互动的功能而获得了用户的广泛关注。弹幕作为一种在视频上叠加用户评论的实时评论功能，被发现能够提升用户参与度，但弹幕的使用也可能导致有害行为和不当评论。为此，我们提出一种受冲击标题启发的主动 moderation 方法。冲击标题是一种视觉技巧，结合文本内容与视觉元素，以构建情感和认知共鸣。在本工作的语境下，冲击标题用于引导观众开展积极的弹幕相关活动，从而诱发更多的利他行为。基于冲击标题，我们开发了DanModCap，这一种 moderation 工具，通过收集和分析弹幕，将其作为大型生成式语言模型的输入，以产生冲击标题。我们对DanModCap的评估表明，冲击标题显著降低了负面对抗性情绪，增加了用户分享积极内容的意愿，并在弹幕社交行为中引发自我控制，从而促进主动的社区维护行为。我们的做法凸显了利用LLM支持的内容 moderation 方法在大规模实时内容情境中进行主动 moderation 的优势。