以数据为中心的人工智能治理：应对以模型为中心政策的局限性
计算机与社会
2024-09-27 v1 人工智能
摘要
当前针对强大人工智能能力的法规狭隘地聚焦于“基础”或“前沿”模型。然而，这些术语定义模糊且不一致，导致治理工作基础不稳。关键的是，政策讨论往往忽视了模型所使用的数据，尽管数据与模型性能之间存在明确联系。即使是相对“较小”的、不符合基础或前沿模型定义的模型，在接触足够特定的数据集时，也能达到同等效果。在本工作中，我们阐述了在评估当前及未来模型风险时，考虑数据集规模和内容的重要性。更广泛地，我们强调了被动反应式监管的风险，并指出了通往谨慎、量化评估能力的路径，这可以简化监管环境。
引用
@article{arxiv.2409.17216,
title = {Data-Centric AI Governance: Addressing the Limitations of Model-Focused Policies},
author = {Ritwik Gupta and Leah Walker and Rodolfo Corona and Stephanie Fu and Suzanne Petryk and Janet Napolitano and Trevor Darrell and Andrew W. Reddie},
journal= {arXiv preprint arXiv:2409.17216},
year = {2024}
}