AI对国家安全的威胁可通过事件制度加以应对
计算机与社会
2025-04-17 v5 人工智能
摘要
近期AI技术的进步加剧了AI系统可能威胁国家安全的顾虑，例如恶意行为者通过AI系统更轻松地对关键国家基础设施发动网络攻击，或AI系统失控。与此同时，美国联邦立法者提出了初步的'AI事件制度'以识别和应对类似威胁。本文整合了这两个趋势，提出了一项旨在应对AI系统潜在国家安全威胁的强制性后部署AI事件制度。我们首先引入'安全关键'一说，以描述对国家安全构成极大风险的部门，随后论证'安全关键'涵盖了平民核电站、航空业、生命科学双用途研究以及前沿AI开发。随后我们详细阐述AI事件制度方案，并通过展示其在其他'安全关键'部门的美国国内事件制度中的相似性来为方案的每个组成部分辩护。最后，我们勾勒了一个假设情景，说明在该AI事件制度下如何处理AI网络事件。该AI事件制度分为三个阶段。第一个阶段围绕对'AI事件'的 novel operationalization 展开，我们建议AI提供商在部署前沿AI系统前必须创建'国家安全案例'。第二个和第三个阶段规定AI提供商应向政府机构报告事件，政府机构应参与修订AI提供商的安全和安全程序，以应对未来对国家安全的威胁。
引用
@article{arxiv.2503.19887,
title = {AI threats to national security can be countered through an incident regime},
author = {Alejandro Ortega},
journal= {arXiv preprint arXiv:2503.19887},
year = {2025}
}