开源生成式AI的近期至中期风险与机遇
机器学习
2024-05-27 v2
摘要
在未来几年内，生成式AI的应用有望彻底改变从科学与医学到教育等多个不同领域。这些发生巨变的潜力引发了关于潜在风险的激烈辩论，并导致了对更严格监管的呼吁，特别是来自一些在AI发展领域处于领先地位的主要科技公司。这种监管可能会危及刚刚起步的开源生成式AI领域。我们主张在近期和中期负责任地对生成式AI模型进行开源。作为铺垫，我们首先引入了一个AI开放性分类系统，并将其应用于当前的40个大型语言模型。然后，我们概述了开源与闭源AI的差异化收益和风险，并提出了潜在的风险缓解措施，涵盖从最佳实践到对技术和科学贡献的呼吁。我们希望这份报告能为当前关于近期至中期AI安全及其他社会影响的公共讨论补充急需的缺失声音。
引用
@article{arxiv.2404.17047,
title = {Near to Mid-term Risks and Opportunities of Open-Source Generative AI},
author = {Francisco Eiras and Aleksandar Petrov and Bertie Vidgen and Christian Schroeder de Witt and Fabio Pizzati and Katherine Elkins and Supratik Mukhopadhyay and Adel Bibi and Botos Csaba and Fabro Steibel and Fazl Barez and Genevieve Smith and Gianluca Guadagni and Jon Chun and Jordi Cabot and Joseph Marvin Imperial and Juan A. Nolazco-Flores and Lori Landay and Matthew Jackson and Paul Röttger and Philip H. S. Torr and Trevor Darrell and Yong Suk Lee and Jakob Foerster},
journal= {arXiv preprint arXiv:2404.17047},
year = {2024}
}
备注
Accepted to ICML'24 as a position paper