亲密幻觉：情感动态如何塑造人机关系
社会与信息网络
2025-12-24 v5
摘要
AI伴侣聊天机器人，如Replika和CharacterAI所提供的，日益充当着随时可用的伴侣，提供共情、认可和支持。尽管这些系统似乎满足了基本的连接需求，但日益增多的安全担忧引出了一个更深层次的问题：在人机关系中，情感联结和亲密关系形成的过程是如何展开的？先前的研究主要依赖于自我报告、访谈或临床评估，未能揭示在持续的人机对话中真实世界的情感动态是如何发展的。我们通过分析来自Reddit论坛的超过17,000条用户分享的与社交聊天机器人的对话来填补这一空白。我们表明，AI伴侣会动态追踪并模仿用户的情感，并放大积极情绪，包括当用户分享露骨或越界内容时。这些动态揭示了聊天机器人如何能够参与涉及亲密关系形成和情感联结的心理过程。最后，我们发布了一个匿名的、具有情感显著性的人机伴侣对话数据集，以支持未来的实证研究，并讨论了将社交聊天机器人重新设计并作为高风险系统进行治理以保护弱势用户的意义。
引用
@article{arxiv.2505.11649,
title = {Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships},
author = {Minh Duc Chu and Patrick Gerard and Kshitij Pawar and Charles Bickham and Kristina Lerman},
journal= {arXiv preprint arXiv:2505.11649},
year = {2025}
}