技术型AI安全领域哪些区域可以允许地缘竞争者合作？
计算机与社会
2025-04-18 v1
摘要
国际合作在AI研究中常见，包括在地缘政治竞争者之间。尽管许多专家都主张在AI安全方面加大国际合作以应对共享的全球风险，但一些人则持怀疑态度，认为AI合作会构成不可接受的国家安全风险。然而，地缘政治竞争者在AI安全研究上的合作程度，以及是否提供了好处，取决于具体的合作领域。本文关注技术性因素，这些因素影响着国际合作AI安全研究的风险，特别是这种合作能否推动危险能力的发展、是否会导致敏感信息的共享，或是否为造成伤害提供机会。我们首先阐述了为何国家历史上会合作战略技术，并以当前中美在AI上的合作为案例研究。我们进一步论证，现有的风险管理框架可以补充考虑技术型AI安全研究合作的关键风险。通过我们的分析，我们发现AI验证机制和共享协议的研究可能是此类合作的合适领域。通过这一分析，我们旨在帮助研究人员和政府识别并减轻国际合作AI安全研究的风险，以充分实现合作的好处。
引用
@article{arxiv.2504.12914,
title = {In Which Areas of Technical AI Safety Could Geopolitical Rivals Cooperate?},
author = {Ben Bucknall and Saad Siddiqui and Lara Thurnherr and Conor McGurk and Ben Harack and Anka Reuel and Patricia Paskov and Casey Mahoney and Sören Mindermann and Scott Singer and Vinay Hiremath and Charbel-Raphaël Segerie and Oscar Delaney and Alessandro Abate and Fazl Barez and Michael K. Cohen and Philip Torr and Ferenc Huszár and Anisoara Calinescu and Gabriel Davis Jones and Yoshua Bengio and Robert Trager},
journal= {arXiv preprint arXiv:2504.12914},
year = {2025}
}
备注
Accepted to ACM Conference on Fairness, Accountability, and Transparency (FAccT 2025)