从技术视角审视现有AI的滥用问题
计算机与社会
2024-03-25 v1 人工智能
摘要
民用人工智能（AI）的潜在恶意滥用对国家和国际层面的安全构成严重威胁。除了从技术角度定义自主系统并阐释AI发展的特征外，我们展示了已有且公开可用的AI技术如何可能被滥用。为强调这一点，我们开发了三个可能被滥用的AI示例用例，这些用例威胁到政治、数字和物理安全。这些用例可由学术界、私营部门和开发者社区现有的AI技术与组件构建而成。这表明了自由可用的AI如何能被组合成自主武器系统。基于这些用例，我们推导出控制要点及进一步措施，以防止通过滥用AI带来的潜在威胁。此外，我们提倡在关于自主武器系统（AWS）的讨论中，考虑民用AI系统的恶意滥用问题。
引用
@article{arxiv.2403.15325,
title = {A Technological Perspective on Misuse of Available AI},
author = {Lukas Pöhler and Valentin Schrader and Alexander Ladwein and Florian von Keller},
journal= {arXiv preprint arXiv:2403.15325},
year = {2024}
}
备注
Presented at the UN Meeting of the Group of Governmental Experts on Lethal Autonomous Weapons Systems, 30 August 2018