对模型市场进行适度治理：AI 中介平台的治理难题
计算机与社会
2024-09-12 v3 人工智能
机器学习
摘要
AI 开发社区正日益使用 Hugging Face 等托管中介，以提供对用户上传模型和训练数据的便捷访问。这些模型市场为数十万用户降低了技术部署门槛，但也可能以众多潜在有害和非法的方式被利用。在本文中，我们阐释了既可“包含”内容又可作为开放式工具的 AI 系统，如何构成了迄今为止最棘手的平台治理挑战之一。我们提供了跨越三个代表性平台——Hugging Face、GitHub 和 Civitai——的若干事件案例研究，以考察模型市场如何对模型进行适度治理。基于此分析，我们概述了业界为应对治理需求而开发的若干重要（然而仍有限）实践：许可、访问与使用限制、自动化内容审核以及开放政策制定。尽管手头的政策挑战颇为艰巨，我们以一些关于平台如何更好地调动资源以充当审慎、公平且适度的监管接入点的想法作结。
引用
@article{arxiv.2311.12573,
title = {Moderating Model Marketplaces: Platform Governance Puzzles for AI Intermediaries},
author = {Robert Gorwa and Michael Veale},
journal= {arXiv preprint arXiv:2311.12573},
year = {2024}
}