面向前沿 AI 模型的数据治理

数据是训练和微调当今前沿人工智能（AI）模型的关键，也是发展未来模型的关键。迄今为止，学术、法律和监管工作主要关注数据如何直接危害消费者和创作者，如通过隐私泄露、版权侵权和偏见歧视。我们的工作则聚焦于数据如何为前沿AI模型开启新的治理能力的问题。这种"前沿数据治理"方法为监控和缓解来自高级AI模型的风险提供了新途径，特别是当这些模型规模化并获得特定危险能力时。尽管如此，前沿数据治理仍面临来自数据本身基本属性的挑战：数据是非稀缺的，常常是不可剥夺的，易于复制，且日益可合成。尽管存在这些固有的困难，我们提出了一套针对数据供应链中的关键角色（包括数据生产者、聚合者、模型开发者和数据供应商）的政策机制。我们简要概述了15种治理机制，其中我们中心性地引入5种 underexplored 的政策建议。这些包括为生产者开发 canary tokens 以检测未授权的使用；（自动）数据过滤以删除预训练和后训练数据集中的恶意内容；对开发者和供应商强制执行数据集报告要求；提高数据集和数据生成算法的安全性；以及对供应商实施客户身份确认要求。通过将数据不仅视为潜在危害来源，同时视为关键治理杠杆，本工作旨在为政策制定者提供治理和监管前沿AI模型的新工具。