CAP-LLM：用于新闻标题生成的上下文增强型个人化大语言模型
计算与语言
2025-08-07 v1
摘要
在信息过载时代，个人化新闻标题生成对于通过针对用户偏好精准传达新闻事实来吸引用户至关重要。现有方法在有效捕获复杂用户兴趣和确保事实一致性方面常常不足，导致标题通用化或误导。凭借大语言模型（LLM）在文本生成方面的突破性能力，我们提出了上下文增强型个人化大语言模型（CAP-LLM），一种新型框架，将用户偏好和事实一致性约束整合到强大的预训练 LLM 主干中。CAP-LLM 包括用于捕获长期用户兴趣的用户偏好编码器、用于将这些偏好和当前文章上下文无缝集成到 LLM 生成过程中的上下文注入适配器，以及采用新颖对比损失的事实一致性强化模块，以缓解幻觉现象。在真实世界的 PENS 数据集上评估后，CAP-LLM 在所有指标上均实现了最好的性能。值得注意的是，CAP-LLM 在事实一致性（FactCC 为 87.50）方面显著优于像 BART（86.67）这样的强大基线，同时也提升了个人化（Pc(avg) 为 2.73，Pc(max) 为 17.25）和内容覆盖率（ROUGE-1 为 26.55，ROUGE-2 为 9.95，ROUGE-L 为 23.01）。我们的消融研究、人类评估和灵敏度分析进一步验证了每个组件的有效性和方法的鲁棒性，表明 CAP-LLM 能够在新闻标题生成中实现个人化与事实准确性之间的卓越平衡。
引用
@article{arxiv.2508.03935,
title = {CAP-LLM: Context-Augmented Personalized Large Language Models for News Headline Generation},
author = {Raymond Wilson and Cole Graham and Chase Carter and Zefeng Yang and Ruiqi Gu},
journal= {arXiv preprint arXiv:2508.03935},
year = {2025}
}