治理双用途技术：国际安全协议案例及其对AI治理的启示
计算机与社会
2024-09-05 v1 人工智能
摘要
国际AI治理协议和机构可能在降低先进AI带来的全球安全风险方面发挥重要作用。为此目的inform设计这些协议和机构，我们对历史和当代国际安全协议进行了案例研究。我们特别关注那些围绕双用途技术的安排，考察了核安全、化学武器、生物安全和出口管制领域的协议。对于每个协议，我们检讨了四个关键领域：(a) 目的，(b) 核心权力，(c) 治理结构，以及(d) 不合规实例。在从这些案例中提取信息之后，我们提取了用于设计国际AI协议和治理机构的经验教训。我们讨论了强化验证方法的重要性、平衡各国力量的策略、应对快速技术变革的机制、在透明度与安全性之间进行权衡的做法、参与激励以及有效执行机制。
引用
@article{arxiv.2409.02779,
title = {Governing dual-use technologies: Case studies of international security agreements and lessons for AI governance},
author = {Akash R. Wasil and Peter Barnett and Michael Gerovitch and Roman Hauksson and Tom Reed and Jack William Miller},
journal= {arXiv preprint arXiv:2409.02779},
year = {2024}
}