中文

开放权重悖论:为何限制对 AI 模型的访问可能削弱其所谓的安全性

计算机与社会 2026-04-21 v1 人工智能

摘要

开放权重人工智能(AI)模型的治理一直被框定为一种二元选择:开放是风险,限制是安全。本文挑战了这种框架,认为在没有被治理的替代方案的情况下,访问限制可能导致风险的置换而非风险的减少。全球计算基础设施的集中,使开放权重模型是全球南部实现主权 AI 能力的最可行的途径之一;限制此类访问会加深不平等,同时推动技术向无监管环境渗透。本分析提出,硬件层治理(包括芯片级认证机制如 FlexHEG、受信任执行环境、保密计算以及互补的软件层保障)为当前的二元选择提供了一种防御性备选方案。一项将滥用向量映射到硬件、软件、制度和责任层的威胁模型分类学说明了为何没有单一的治理机制就足够。为操作化这一方法,本文认为有效的 AI 治理作为一种双用途技术,可能需要类似 IAEA 在核领域中所发挥作用的多边制度架构,明确防止硬件控制被用于国内压制的措施。相关的政策问题是如何通过技术和制度设计使开放变得更安全,同时 addressing 遗留硬件、规模化认证以及公民自由保护的转型现实。

关键词

引用

@article{arxiv.2604.17413,
  title  = {The Open-Weight Paradox: Why Restricting Access to AI Models May Undermine the Safety It Seeks to Protect},
  author = {Vinicius Santana Gomes},
  journal= {arXiv preprint arXiv:2604.17413},
  year   = {2026}
}

备注

23 pages, 2 figures, 1 table. Preprint also deposited at Zenodo (DOI: 10.5281/zenodo.19484877) on 2026-04-09. Licensed under CC BY 4.0