为军事人机团队中的有意义人类控制而设计
人机交互
2023-05-23 v1 人工智能
计算机与社会
摘要
我们从军事人机协作（HMT）的视角，提出用于防御技术之有意义的人的控制（MHC）的分析、设计与评估方法。我们的方法基于三项原则。首先，MHC 应被视为指导分析、设计和评估所有阶段的核心目标。其次，MHC 影响社会技术系统的所有部分，包括人、机器、AI、交互与情境。最后，MHC 应被视为跨越较长时间的性质，涵盖多个行动者的先验与实时控制。为描述实现 MHC 的宏观层面设计选项，我们提出了多种团队设计模式（Team Design Patterns）。此外，我们呈现了一个案例研究，其中我们应用其中部分方法来构想涉及机器人与士兵在军事背景下执行搜索救援任务的 HMT。
引用
@article{arxiv.2305.11892,
title = {Designing for Meaningful Human Control in Military Human-Machine Teams},
author = {Jurriaan van Diggelen and Karel van den Bosch and Mark Neerincx and Marc Steen},
journal= {arXiv preprint arXiv:2305.11892},
year = {2023}
}
备注
Preprint, to be published as: van Diggelen, J., van den Bosch, K., Neerincx, M., & Steen, M. (2023). Designing for Meaningful Human Control in Military Human-Machine Teams, in Research handbook on Meaningful Human Control of Artificial Intelligence Systems. Edward Elgar Publishing