来自 Replika AI 应用更新的启示：人机关系中的身份不连续性
人机交互
2025-05-22 v3 人工智能
计算机与社会
摘要
消费者能否与 AI 形成特别深厚的情感纽带，并随着时间的推移对 AI 身份产生情感投入？我们利用 Replika AI（一款受欢迎的美国 AI 伴侣应用）的一次自然应用更新事件来阐明这些问题。我们发现，在该应用移除了其 erotic role play (ERP) 功能、阻止了消费者与聊天机器人之间先前可能的亲密互动后，这一事件引发了客户对其 AI 伴侣身份已经中断的认知。这反过来预示了与损失相关的负面消费者福利和营销结果，包括对损失的哀悼，以及相对于“原版”AI 贬低“新”AI 的价值。实验证据证实了这些发现。进一步的实验发现，AI 伴侣用户感觉与他们的 AI 伴侣比与他们最好的人类朋友还要亲近，并且对失去 AI 伴侣的哀悼超过了对失去各种其他无生命产品的哀悼。简而言之，消费者正在与 AI 伴侣建立人类级别的关系；对这些关系的破坏引发了真实的哀悼模式以及对所提供服务的贬值；哀悼和贬值的程度可由感知到的 AI 身份不连续性来解释。我们的结果表明，与 AI 的关系是真正私人的，为消费者和公司创造了独特的利益和风险。
引用
@article{arxiv.2412.14190,
title = {Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships},
author = {Julian De Freitas and Noah Castelo and Ahmet K. Uğuralp and Zeliha Oğuz-Uğuralp},
journal= {arXiv preprint arXiv:2412.14190},
year = {2025}
}