自主系统中有意义人机控制的操作化原则与框架
系统与控制
2025-04-18 v2 系统与控制
摘要
本文通过提出有意义人机控制 (MHC) 的操作化原则并引入其通用应用框架，为自主系统中 MHC 的操作化对齐提供方案。随着 MHC 在实践中的各种看似不同的扩展用例日益增多，本工作旨在实现实践中的对齐与收敛。自主系统在各领域的日益集成强调了一个关键需求，即保持人类控制以确保这些系统的安全、可问责和伦理运行。MHC 概念为设计和评估自主系统的人机控制提供了理想框架，同时考虑人类和技术能力。通过对现有文献的分析以及跨领域和相关概念的调查，我们制定了 MHC 操作化的原则，为旨在在其系统中实施 MHC 的研究人员和实践者提供具体指导指南。所提出的框架将系统的通用组件及其子系统与不同代理、利益相关者和过程进行对齐，这些过程处于与自主技术的不同接近程度。该框架是领域无关的，强调 MHC 原则的通用适用性，不论技术背景如何，为更安全、更负责任的自主系统铺平道路。
引用
@article{arxiv.2502.08255,
title = {Principles and Framework for the Operationalisation of Meaningful Human Control over Autonomous Systems},
author = {Simeon C. Calvert},
journal= {arXiv preprint arXiv:2502.08255},
year = {2025}
}