平衡权力与伦理：面向军事 AI 人权关切的框架
计算机与社会
2025-08-06 v1 人工智能
计算工程、金融与科学
人机交互
机器学习
摘要
近期 AI 取得了显著进展，已在民用与军事领域广泛应用。军方视 AI 为开发更高效和更快速技术的解决方案。尽管 AI 提供了提升作业效率和精确打击等益处，但也引发严重的伦理与法律关切，尤其是涉及人权侵害。缺乏人类输入便可作出决策的自主武器会威胁生命权并违反国际人道法。为此，我们提出了三个阶段的框架 (设计阶段、部署阶段及使用/后使用阶段)，用于评估军事 AI 中人权关切。每个阶段包含多个组件，针对该阶段的各种关切进行考量，从偏见与监管问题到国际人道法的违规。通过该框架，我们旨在平衡军事作业中 AI 的优势与保护人权的需求。
引用
@article{arxiv.2411.06336,
title = {Balancing Power and Ethics: A Framework for Addressing Human Rights Concerns in Military AI},
author = {Mst Rafia Islam and Azmine Toushik Wasi},
journal= {arXiv preprint arXiv:2411.06336},
year = {2025}
}
备注
Accepted for oral (only 3 papers are selected!) Harms and Risks of AI in the Military Workshop (HRAIM 2024) at Mila Quebec (https://www.harms-risks-ai-military.org/accepted-abstracts.html#:~:text=Balancing%20Power%20and%20Ethics)