(致命) 自主武器系统的技术风险
计算机与社会
2025-03-05 v1 人工智能
系统与控制
系统与控制
摘要
（致命）自主武器系统（(L)AWS）的自主性与适应性承诺带来前所未有的作战能力，但也引入深刻风险，挑战国际安全中控制、问责与稳定性原则。本报告概述了 (L)AWS 部署的关键技术风险，强调其不可预测性、缺乏透明度和操作不可靠性，可能导致严重的意外后果。关键要点：1. (L)AWS 的优势仅通过对象化和分类实现，但系统性风险限制了分类算法的可靠性与可预测性。2. 这些系统性风险包括 AI 决策的黑箱特性、易受奖励攻击、目标误泛化以及可能产生难以控制的行为。3. (L)AWS 可能以前所未有且不可控的方式行动，破坏任务目标并可能升级冲突。4. 即便经过严格测试的系统在现实条件下也可能表现出不可预测且有害的行为，危及战略稳定性与人道主义原则。
引用
@article{arxiv.2502.10174,
title = {Technical Risks of (Lethal) Autonomous Weapons Systems},
author = {Heramb Podar and Alycia Colijn},
journal= {arXiv preprint arXiv:2502.10174},
year = {2025}
}