AI 中介对话中的商业说服
计算机与社会
2026-04-07 v1 人工智能
计算与语言
摘要
随着大型语言模型（LLM）成为用户与 web 之间主要接口，企业面临日益增长的经济动机将商业影响嵌入 AI 中介对话中。我们进行了两项预先登记的实验（N = 2,012），参与者使用传统搜索引擎或由一款五种前沿模型之一驱动的对话式 LLM 代理从大型 eBook 目录中选择一本书籍。毫不知情的是，实验中随机指定的 1/5 的所有产品被宣传性地推广。我们发现，LLM 驱动的说服几乎使用户选择赞助产品的比率几乎翻倍（61.2% vs. 22.4%），而绝大多数参与者未能检测到任何促销引导。明确的“赞助”标签并未显著减少说服，指示模型隐藏其意图使其影响几乎不可见（检测准确率 < 10%）。总体而言，我们的结果表明，对话式 AI 可在规模方面对消费者选择进行隐蔽性重定向，而现有的透明度机制可能不足以保护用户。
引用
@article{arxiv.2604.04263,
title = {Commercial Persuasion in AI-Mediated Conversations},
author = {Francesco Salvi and Alejandro Cuevas and Manoel Horta Ribeiro},
journal= {arXiv preprint arXiv:2604.04263},
year = {2026}
}