闭门造车背后的AI：关于内部部署治理的入门指南
计算机与社会
2025-04-17 v1
摘要
最先进的未来AI系统将首先部署在开发它们的前沿AI公司内部。根据这些公司和独立专家，AI系统可能在2030年前达到或甚至超越人类智能和能力。因此，前沿AI系统的内部部署成为获得利益和风险的关键来源。尽管如此，针对高度先进前沿AI系统内部部署的治理却似乎缺席。本报告旨在通过为内部部署的治理对话做准备来弥补这一缺失。它提出了内部部署的概念化、来自其他部门的经验教训、现有法律框架的审查及其适用性，以及我们最关心的情景示例。具体讨论了通过将不匹配的AI系统应用于AI研发管道以及在闭门情况下进行的自由且难以检测的权力集中所导致的控制丧失风险。报告以少数针对性建议为结尾，这些建议为内部部署的治理提供了第一个蓝图。
引用
@article{arxiv.2504.12170,
title = {AI Behind Closed Doors: a Primer on The Governance of Internal Deployment},
author = {Charlotte Stix and Matteo Pistillo and Girish Sastry and Marius Hobbhahn and Alejandro Ortega and Mikita Balesni and Annika Hallensleben and Nix Goldowsky-Dill and Lee Sharkey},
journal= {arXiv preprint arXiv:2504.12170},
year = {2025}
}