具有社交流畅性的 AI 在在线交互中将对话信号与来源身份解耦
人机交互
2026-05-25 v1 人工智能
摘要
具有社交流畅性的自主 AI 现在能够以类似于普通人类对话的方式参与在线交互，这可能会削弱人们仅凭对话信号推断谁是人类的能力。我们在同步的基于文本的群组交互中测试了这种可能性，方法是在分析、创意和伦理任务中嵌入未公开的 AI 智能体作为普通队友。在 786 名参与者做出的 1,572 次交互后身份判断中，人们区分 AI 与人类队友的准确率并未高于随机水平。这种失败并非因为交互缺乏与身份相关的信息。对话行为包含能够区分 AI 与人类的稳健线索，并支持高度准确的计算分类。相反，参与者依赖于熟悉的怀疑启发式方法，包括响应速度、流畅度和感知的脚本化程度，这些与真实身份仅有微弱关联。表征分析进一步表明，判断是围绕主观印象组织的，而非编码真实情况的行为结构。这种解耦为协调一致的 AI 智能体创造了新的脆弱性，使其能够大规模影响和操纵在线话语。
引用
@article{arxiv.2605.23426,
title = {Socially fluent AI decouples conversational signals from source identity in online interaction},
author = {Lixiang Yan and Yueqiao Jin and Xibin Han and Dragan Gašević},
journal= {arXiv preprint arXiv:2605.23426},
year = {2026}
}