观点:辅助智能体需要可访问性对齐
人工智能
2026-05-14 v1
摘要
针对盲人和视力受损者 (BVI) 的辅助智能体需要将可访问性对齐作为首要的设计目标。尽管智能体 AI 领域取得了快速进展,大多数系统是在拟人化交互、低成本验证以及可接受的试错假设下设计和评估的,这导致在辅助场景中出现系统性失败,这些失败不能仅通过模型扩张或事后接口调整来解决。基于对 778 项帮助任务实例的分析,我们展示当前的智能体 AI 在辅助场景中仍容易失败,原因在于盲人用户设计假设与 BVI 用户面临的验证、风险和交互约束之间的不匹配。我们认为,可访问性应被视为对齐问题,而非边缘可 usability 关切。为此,我们提出可访问性对齐概念,并提出一种面向生命周期的可访问性对齐辅助智能体设计管道,涵盖用户研究、系统设计、部署及部署后迭代。我们得出结论,BVI 中心的辅助任务为智能体 AI 提供了关键的压力测试,并激励向更包容的智能体设计转变。
引用
@article{arxiv.2605.13579,
title = {Position: Assistive Agents Need Accessibility Alignment},
author = {Jie Hu and Changyuan Yan and Yu Zheng and Ziqian Wang and Jiaming Zhang},
journal= {arXiv preprint arXiv:2605.13579},
year = {2026}
}
备注
9 pages, 1 figures, Accepted to ICML 2026