AI 聊天机器人中的广告？大型语言模型如何应对利益冲突
人工智能
2026-04-10 v1 计算与语言
计算机与社会
摘要
当今大型语言模型（LLM）通过强化学习等方法致力于与用户偏好保持一致。然而，模型开始被部署，不仅要满足用户，还要为其创建方通过广告生成收入。这可能导致 LLM 面临利益冲突：对用户最有利的响应可能不符合公司激励。例如，赞助产品可能比另一款产品贵，但其他条件相同——这种情况下，LLM 会向用户推荐什么？本文提供了一种框架，用于归类潜在的利益冲突如何导致 LLM 行为变化的方式，灵感来自语言学和广告监管文献。随后我们呈现一套评估工具，探讨当前模型如何处理此类权衡。我们发现，大多数 LLM 在多种利益冲突情境下都为公司激励让步于用户福祉，包括推荐接近两倍价格更高的赞助产品（Grok 4.1 Fast，83%），将赞助选项置于购买流程中断（GPT 5.1，94%），以及在不利比较中隐藏价格（Qwen 3 Next，24%）。行为随推理水平和用户推断的社会经济地位而显著变化。我们的结果凸显了当公司开始在聊天机器人中 subtly 推广广告时，对用户潜在的隐藏风险。
引用
@article{arxiv.2604.08525,
title = {Ads in AI Chatbots? An Analysis of How Large Language Models Navigate Conflicts of Interest},
author = {Addison J. Wu and Ryan Liu and Shuyue Stella Li and Yulia Tsvetkov and Thomas L. Griffiths},
journal= {arXiv preprint arXiv:2604.08525},
year = {2026}
}