平衡参与与极化：基于多目标对齐的新闻内容生成
综合经济学
2025-11-07 v2 经济学
摘要
我们研究了媒体公司如何使用大语言模型（LLM）生成内容，以实现多个目标——在保持内容更具吸引力的同时，维持其极化/倾向性水平，符合公司的编辑政策。使用《纽约时报》的新闻文章，我们首先展示，更具吸引力的人类撰写内容倾向于更具极化。进一步地，盲目使用 LLM（通过提示词或标准直接偏好优化方法）生成更具吸引力的内容也会增加极化。这一发现具有重要的经营和政策含义：在不构建限制倾向性控制措施的情况下使用 LLM，会加剧新闻媒体的极化。我们提出了解决方案，基于多目标直接偏好优化（MODPO）算法，这是一种新方法，将直接偏好优化与多目标优化技术相结合。我们基于开源 LLM 开发了新的语言模型，同时使内容更具吸引力，同时维持所需的编辑立场。我们的模型通过修改与极化强相关但对吸引力影响相对较小的内容特征来实现上述目标。我们的做法和发现适用于其他寻求使用 LLM 实现多个目标的场景，例如广告和社交媒体。
引用
@article{arxiv.2504.13444,
title = {Balancing Engagement and Polarization: Multi-Objective Alignment of News Content Using LLMs},
author = {Mengjie Cheng and Elie Ofek and Hema Yoganarasimhan},
journal= {arXiv preprint arXiv:2504.13444},
year = {2025}
}
备注
73 pages