中文

为协助分配设计:LLM-enabled 机器人的前端护栏

人工智能 2026-03-18 v1 人机交互 机器人学

摘要

在社交场景中优先分配稀缺协助的 LLM-enabled 机器人面临多元价值观与 LLM 行为变异性:理性的人可以对谁该被优先帮助持不同意见,而 LLM 中介的交互策略会因提示、情境和群体不同而产生难以预测或验证的变异。然而,针对实时多用户协助分配的用户面向护栏仍不完善。我们提出一种结合有界校准与可挑战性的前端模式:(i) 将协助优先级限制在经治理批准的可接受模式菜单中;(ii) 在 deferral 时点以交互相关术语使主动模式保持可见;(iii) 提供面向特定结果的可挑战路径,而无需重新协商全局规则。将多元主义与 LLM 不确定性视为基本条件,该模式既避免隐藏隐式价值偏斜的静默默认值,也避免在时间紧迫时让用户可配置的“价值设置”将负担转嫁给用户。我们以公共大厅机器人情景说明该模式,概述以可见性、程序合法性和可操作性为中心的评估议程,包括自动化偏见风险以及可挑战通道的可用性不均衡问题。

关键词

引用

@article{arxiv.2603.16537,
  title  = {Designing for Disagreement: Front-End Guardrails for Assistance Allocation in LLM-Enabled Robots},
  author = {Carmen Ng},
  journal= {arXiv preprint arXiv:2603.16537},
  year   = {2026}
}

备注

Accepted at the Proceedings of the CHI 2026 Workshop: Ethics at the Front-End