AI 导览员是(真的)唯一需要的防止聊天机器人与用户建立寄生关系的方式
人工智能
2025-09-03 v5
摘要
关于AI奉承行为及其对儿童和成人的寄生关系影响的报告日益增多,亟需对策以防止此类风险.然而,防止此类动态面临挑战:寄生线索常在聊天机器人与用户的私人对话中逐渐显现,且缺乏有效方法加以缓解.为此,我们引入简单的response评估框架(AI导览员代理),通过改造最先进的语言模型来评估ongoing 对话中是否存在寄生线索.我们构建了小型合成数据集,包含30段spanning 寄生、奉承和中性对话.通过五阶段测试迭代成功识别所有寄生对话,同时在unanimity规则下避免误报,检测通常在前几轮exchange中完成.这些发现提供初步证据表明,AI导览员可为减少寄生关系风险提供可行解决方案.
关键词
引用
@article{arxiv.2508.15748,
title = {AI Chaperones Are (Really) All You Need to Prevent Parasocial Relationships with Chatbots},
author = {Emma Rath and Stuart Armstrong and Rebecca Gorman},
journal= {arXiv preprint arXiv:2508.15748},
year = {2025}
}