中文

部署前信息共享:危险能力分区分类学

计算机与社会 2024-12-16 v2 人工智能

摘要

高影响且可能危险的能力应在触及红线之前被分解为早期警报。这些每个早期警报应对应前哨能力。每个前哨能力位于一个光谱上,表明其距离最终高影响能力(对应红线)的接近程度。为有意义地检测和跟踪能力进展,我们提出了一套危险能力分区(zoning taxonomy)分类学,关联分阶段信息交换框架,使相关机构能够据此采取行动。在前沿 AI 安全承诺(Commitment VII)中,签署方承诺与可信行动方共享更详细的信息,包括任由其选择的指定机构。基于我们的分区分类学,本文提出了四项关于如何指定承诺 VII 中信息共享的建议:(1)应在前哨能力通过内部评估被确认后尽快共享;(2)AI 安全研究所(AI Safety Institutes, AISIs)应作为接收和协调前哨组件信息的可信行动方;(3)AISIs 应建立充分的信息保护基础设施,保证随着前哨能力通过分区向红线移动,信息安全性提升,必要时可通过对前哨能力信息进行分类或标记为受控来实现;(4)一个地理区域的高影响能力进展可能转化为其他区域的风险,需进行更全面的国际风险评估。因此,AISIs 应与其他 AISIs 交换前哨能力信息,依赖现有的国际机密交换框架,并运用其他受监管高风险行业所学到的经验。

关键词

引用

@article{arxiv.2412.02512,
  title  = {Pre-Deployment Information Sharing: A Zoning Taxonomy for Precursory Capabilities},
  author = {Matteo Pistillo and Charlotte Stix},
  journal= {arXiv preprint arXiv:2412.02512},
  year   = {2024}
}