勾勒可解释 swarm (xSwarm) 的设计空间：专家视角
机器人学
2023-09-06 v1 计算机与社会
人机交互
摘要
在群体机器人中，智能体通过局部角色交互以解决个体能力之外的复杂任务。尽管群体能够执行某些无需人工干预的操作，许多安全关键应用仍需要人类操作员来控制和监控群体。有效的人-群交互（HSI）面临新颖挑战，才刚刚开始被解决。可解释性是促进有效且可信的 HSI 并提升人-群团队整体性能的一个因素。可解释性已在各种人-人工智能领域中被研究，如人-机器人交互和以人为中心的 ML。然而，人-人工智能文献中研究出的解释是否对群体研究与开发有益仍不明确。此外，文献缺乏关于群体机器人中可解释性需求前提的基础研究，即一个可解释群体被期望回答何种问题，以及群体被期望生成何种类型的解释。通过调查 26 位群体专家，我们试图回答这些问题并识别专家在人-群环境中生成解释所面临的挑战。我们的工作为定义可解释群体（xSwarm）这一新研究领域的洞见做出贡献，该领域关注可解释性如何在群体系统中实现与发展。本文开启关于 xSwarm 的讨论，并为该领域更多研究铺平道路。
引用
@article{arxiv.2309.01269,
title = {Outlining the design space of eXplainable swarm (xSwarm): experts perspective},
author = {Mohammad Naiseh and Mohammad D. Soorati and Sarvapali Ramchurn},
journal= {arXiv preprint arXiv:2309.01269},
year = {2023}
}
备注
In the 16th International Symposium on Distributed Autonomous Robotic Systems 2022, November 28-30, 2022, Montbeliard, France