核军控核查及对 AI 条约的启示
计算机与社会
2023-04-11 v1 物理与社会
摘要
AI 带来的安全风险已促使人们呼吁达成国际协议以对该技术设置护栏。然而，即便各国能就 AI 的规则达成一致，合规核查问题也可能使这些协议难以可行。为帮助厘清 AI 协议核查的困难——并识别可能降低此困难的措施——本报告考察了核军控中核查的案例研究。我们回顾了三类核军控协议在施行、历史记录与政治方面的核查情况。随后，我们思考其对 AI 的启示，尤其是依赖数千高度专用芯片的 AI 开发。在此背景下，案例研究表明，在具备某些准备的条件下，可预见的核查挑战将被降低到核军控中曾被成功应对的水平。为避免更严峻的挑战，需进行大量准备：(1) 在给定核查准入的条件下，开发保护隐私、安全且价格可接受的硬件合规核查方法；以及 (2) 建立一个初步的、不完备的核查系统，其权威与先例能在政治意愿出现时迅速填补漏洞。
引用
@article{arxiv.2304.04123,
title = {Nuclear Arms Control Verification and Lessons for AI Treaties},
author = {Mauricio Baker},
journal= {arXiv preprint arXiv:2304.04123},
year = {2023}
}