军事AI需要技术驱动的监管以保障AI研究及其应用

由人工智能(AI)增强的军事武器系统和指挥与控制基础设施近年来经历了快速发展和部署。然而，AI对战斗系统、军事决策和战争规范的社会技术影响一直研究不足。我们聚焦于使用AI进行目标选择或战场决策的致命自主武器系统(LAWS)的一个特定子集。我们将此子集称为AI驱动的致命自主武器系统(AI-LAWS)，并论证它们引入了新型风险——包括意外升级、在陌生环境中可靠性差以及人类监督的侵蚀——这些都威胁到军事效率和AI研究的开放性。这些风险仅靠高层政策无法解决；有效的监管必须基于AI模型的技术行为。我们论证AI研究人员必须参与整个监管生命周期。因此，我们提出了AI-LAWS的清晰、基于行为的定义——即通过使用现代AI引入独特风险的系统——作为技术驱动监管的基础，因为现有框架无法将它们与传统LAWS区分开来。使用此定义，我们提出了若干技术驱动的政策方向，并邀请AI研究界更多地参与军事AI政策讨论。