生成式 AI 与数字公地
计算机与社会
2023-03-21 v1
摘要
许多生成式基础模型(GFMs)在公开可用数据上训练并使用公共基础设施，但 1) 可能退化其所依赖的“数字公地”，且 2) 没有将所捕获价值回馈给数据生产者与利益相关方的机制。现有的数据权利与保护观念（主要聚焦于个人所有数据及相关隐私问题）以及基于版权或许可的模型提供了一些可借鉴的先验，但不足以应对基于公地数据训练的模型可能引发的问题。我们概述 GFM 带来的风险及其与数字公地的关联，并提出诸多基于治理的解决方案，包括对生成式模型训练与能力方面的标准化数据集/模型披露及其他透明度投资、用于监测/标准/审计组织的基于联盟的资助、要求或规范 GFM 公司向公地贡献高质量数据，以及基于个人或社区提供微调数据的共享所有权结构。
引用
@article{arxiv.2303.11074,
title = {Generative AI and the Digital Commons},
author = {Saffron Huang and Divya Siddarth},
journal= {arXiv preprint arXiv:2303.11074},
year = {2023}
}