从角色到个人：双胞胎代理中的信任校准挑战

代理型 AI 已采取助手、协作者和决策支持工具的角色，我们认为下一个角色是：您自己。这些是代表每个个体的数字双胞胎——双胞胎代理——在他们不可用时代表他们的知识、视角和沟通方式与同事沟通。在一个持续进行的项目中，代理代表知识工作者在专业环境中的工作，我们识别了这种方法特有的信任校准问题。当人类同事怀疑双胞胎代理的输出时，他们面临三个失败模式（模式差距、认识论差距和模型制品），且没有可靠的归因路径将它们联系在一起。认知强制函数和相关框架在 AI 与人类决策者之间存在明确边界的上下文中有效处理过度依赖问题。然而，双胞胎代理消除了这种边界，引发了一类信任校准挑战，这些框架未被设计用于处理。我们提出了这一概念，区分了它与数字双胞胎，并概述了这种新型代理所需的研究问题。