有意义的人类指令：以前瞻控制指令作为实现自主武器系统道德与法律责任的方法
人工智能
2023-08-07 v3 人机交互
摘要
21世纪战争的速度不断提升，常规力量与自主系统的大规模使用及人机融合相结合。然而，一个重大挑战在于人类如何对超出正常时间参数的系统确保道德与法律责任。本章探讨人类能否置身于实时之外，通过预先订立契约授权自主系统在未来情境中（尤其是快于实时或人类意识与注意力无法保持充分知悉的极慢速行动中）采取行动。医疗法律中“预立医疗指示”的先例提示，武器系统问责与责任所需的耗时审慎流程或可于实时之外、以“前瞻控制指令”（ACD）形式实现。本章提出通过部署自主系统前构建ACD来支撑并合法化“自主指挥”。
引用
@article{arxiv.2303.06813,
title = {Meaningful human command: Advance control directives as a method to enable moral and legal responsibility for autonomous weapons systems},
author = {Susannah Kate Devitt},
journal= {arXiv preprint arXiv:2303.06813},
year = {2023}
}
备注
33 pages, 12,527 words, 2 boxes, 1 table, forthcoming in, D. Amoroso, J. van den Hoven, D. Abbink, F. Santoni de Sio, G. Mecacci, & L. C. Siebert (Eds.), Meaningful Human Control of Artificial Intelligence Systems. Edward Elgar Publishing