迈向满意化分布式动态团队信任的步骤
人工智能
2024-01-26 v2 人机交互
机器人学
摘要
在动态多智能体团队中定义与度量信任在诸多情境中十分重要，尤其在国防与安全领域。团队成员应被信任为朝着商定目标工作并遵从共享价值。本文关注目标与价值的定义，使得能以可被人类与机器人解释因而可用的方式定义“信任”。我们认为团队活动的结果可从“目标”、“个体/团队价值”与“法律原则”方面考量。我们质疑在“个体/团队价值”层面是否可能对齐，还是仅在“目标”与“法律原则”层面可能。我们主张一组用于定义人-机器人团队中信任的度量，其可被人类或机器人团队成员解释，并考虑一项可在模拟任务过程中展示“满意化信任”概念的实验。
引用
@article{arxiv.2309.05378,
title = {Steps Towards Satisficing Distributed Dynamic Team Trust},
author = {Edmund R. Hunt and Chris Baber and Mehdi Sobhani and Sanja Milivojevic and Sagir Yusuf and Mirco Musolesi and Patrick Waterson and Sally Maynard},
journal= {arXiv preprint arXiv:2309.05378},
year = {2024}
}