超越《她》：角色扮演 AI 伴侣中的安全动态

电影《她》描绘了人类与人工智能之间相爱的未来。这一未来已以角色扮演 AI 伴侣（RACs）的形式悄然出现，其中情感响应式互动模糊了工具使用与关系参与之间的界限。然而，其安全影响仍知之甚少，因为用户体验会随着时间推移通过安全动态（涵盖情感和风险行为动态）而演变，这可能逐渐将互动推向风险。在本文中，我们通过一项由两部分组成的混合方法研究（研究 I 和 II）来调查 RAC 使用中的安全动态。(1) 研究 I 包括半结构化访谈（N = 16），以识别塑造这些动态的关键因素。我们发现，用户的内化问题、RAC 采用的角色人格以及风险互动模式共同塑造了安全动态。基于这些见解，(2) 研究 II 进行了为期 14 天的生态瞬时评估（N = 102），以检验安全动态如何在现实世界的使用中展开。我们根据内化问题识别出不同的用户画像，并表明与 RAC 的互动可以产生短期情绪缓解，同时掩盖长期恶化。此外，弱势用户随着时间的推移表现出更不稳定的风险行为模式，使得风险的出现更难预测，也更难通过静态保障措施来缓解。我们的研究结果强调了将安全建模为一个动态过程而非静态属性的重要性。最后，我们为下一代 AI 伴侣提出了三层设计启示，倡导能够响应不断演变的情感和行为信号的适应性保障措施。