具身多智能体系统中的知情同意衰减:连接 AI 代理治理与机器人伦理的桥梁
计算机与社会
2026-05-19 v1 人工智能
多智能体系统
机器人学
摘要
机器人系统正从孤立平台转向互联的多智能体生态系统,这些系统在人类环境中运行。这一转变引发了一个现有框架尚未覆盖的治理问题:在具身自主代理之间进行委托链时,知情同意如何传播、退化并最终中断?AI 伦理社区开始研究数字软件代理的知情同意,而人机交互(HRI)社区则检视人类-机器人互动中的知情同意。但两者都未覆盖当物理机器人以影响人类的方式将任务委托给其他机器人时的情形。本文引入知情同意链退化(CCD),以分析在多机器人委托链中,人类知情同意的具体性、有效性和范围如何退化。我们提出三层治理架构:面向具身代理的知情同意运行时验证框架(CoRVE),集成知情同意范围建模、委托链跟踪和物理不可逆性评估。医疗、家庭和工业机器人场景中的三个情景展示了 CCD 的实际形成,包括一个 worked 数值示例。欧盟 AI 法案、GDPR、机器法规和修订后产品责任法律导令的监管差距分析显示,四项法规均未能覆盖 CCD 的核心维度。
引用
@article{arxiv.2605.16300,
title = {Consent Chain Degradation in Embodied Multi-Agent Systems: Bridging the Gap Between AI Agent Governance and Robot Ethics},
author = {Mehmet Haklidir},
journal= {arXiv preprint arXiv:2605.16300},
year = {2026}
}
备注
Accepted for oral presentation at the 2nd Workshop on Robot Ethics (WoRoBet), ICRA 2026, Vienna, Austria, June 1, 2026. 6 pages, 3 tables, 1 figure