开源生成式 AI 的风险与机遇
机器学习
2024-05-30 v3
摘要
生成式 AI (Gen AI) 的应用有望彻底改变从科学与医学到教育等多个不同领域。这些剧变的潜力引发了关于该技术潜在风险的激烈辩论，并导致了更严格监管的呼声，特别是来自一些在 AI 发展中处于领先地位的主要科技公司。这种监管可能会危及开源生成式 AI 这一新兴领域。使用 Gen AI 发展的三阶段框架（近期、中期和长期），我们分析了开源生成式 AI 模型在具有与当前可用模型相似能力（近期至中期）和更强能力（长期）情况下的风险与机遇。我们论证了总体上开源 Gen AI 的收益大于其风险。因此，我们鼓励模型、训练和评估数据的开源，并提供了一套管理开源生成式 AI 相关风险的建议和最佳实践。
引用
@article{arxiv.2405.08597,
title = {Risks and Opportunities of Open-Source Generative AI},
author = {Francisco Eiras and Aleksandar Petrov and Bertie Vidgen and Christian Schroeder and Fabio Pizzati and Katherine Elkins and Supratik Mukhopadhyay and Adel Bibi and Aaron Purewal and Csaba Botos and Fabro Steibel and Fazel Keshtkar and Fazl Barez and Genevieve Smith and Gianluca Guadagni and Jon Chun and Jordi Cabot and Joseph Imperial and Juan Arturo Nolazco and Lori Landay and Matthew Jackson and Phillip H. S. Torr and Trevor Darrell and Yong Lee and Jakob Foerster},
journal= {arXiv preprint arXiv:2405.08597},
year = {2024}
}
备注
Extension of arXiv:2404.17047