为对话式智能体设计算作数字托付人
人机交互
2026-05-29 v1 计算机与社会
摘要
对话式智能体正日益融入用户生活最私密、最亲密的方面，从心理健康讨论到金融决策。因此，这些系统获取了大量敏感用户数据。AI 系统文献大部分关注将用户目标与代表其行动的智能体对齐。尽管如此，这种工作可能忽略了确立新的规范基准的需求。设计为与人类用户进行仿人交互的对话式 AI 智能体必须被评估为其能力和访问权限所对应的标准。在雇主聘请个人律师、接受手术或咨询投资经理时，专家往往对其客户负有忠诚义务，致力于代表客户的最佳利益。这一挑战性论述认为，对话式智能体应被视为类似标准，并引入以忠诚设计为指导原则。在此意义上，对话式 AI 的信任和问责可以统一为单一的设计和法律范式。
引用
@article{arxiv.2605.28908,
title = {Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries},
author = {Jacob Erickson},
journal= {arXiv preprint arXiv:2605.28908},
year = {2026}
}
备注
To appear in the proceedings of the 8th ACM Conference on Conversational User Interfaces (CUI '26)