绝不妥协：探索可用知识对代理人说服力的影响——基于受控理疗动机对话研究
人机交互
2026-04-30 v2 人工智能
摘要
生成式社会代理人（GSAs）正通过说服性手段影响人类用户。一方面，他们可能激励用户追求个人目标，如更健康的生活方式；另一方面，他们还与操纵和欺骗等潜在风险相关联，这些风险由概率性代理输出的有限控制引起。然而，由于 GSAs 的交际模式基于可用知识，其行为可能通过对此类知识的访问而得到调节。遵循这一思路，我们探索了人类-机器人理疗动机对话中由 ChatGPT 生成的说服性消息。我们通过将 ChatGPT 生成的响应与来自拟定理疗病人的预定义输入进行比较来实现此目标。在研究 1 中，我们对 13 种 ChatGPT 生成的对话脚本进行定性分析，讨论了关于说服性消息特征的不同知识配置。在研究 2 中，第三方观察者（N=27）对其中一选取的对话进行评分，评估代理人的表达性、自信程度和说服性。我们的发现表明，基于 LLM 的 GSAs 可以调整自信和表达性特征——显著提升其说服性的感知。此外，说服性显著受到关于患者年龄和过去职业信息可得性的影响，这通过感知到的自信和表达性中介。关于理疗效益的情境知识并未显著影响说服性，可能是因为 LLM 即使没有明确提示也已内在了解此类效益。总体而言，本研究突显了经验性地研究 GSAs 行为模式的重要性，特别是研究哪些信息生成式 AI 系统需要以实现一致和负责任的沟通。
引用
@article{arxiv.2602.12924,
title = {Never say never: Exploring the effects of available knowledge on agent persuasiveness in controlled physiotherapy motivation dialogues},
author = {Stephan Vonschallen and Rahel Häusler and Theresa Schmiedel and Friederike Eyssel},
journal= {arXiv preprint arXiv:2602.12924},
year = {2026}
}