开放生态系统中的负责任 AI：协调创新与风险评估和披露

Mahasweta Chakraborti; Bert Joseph Prestoza; Nicholas Vincent; Seth Frey

开放生态系统中的负责任 AI：协调创新与风险评估和披露

人机交互 2024-10-01 v1 人工智能计算机与社会新兴技术软件工程

作者: Mahasweta Chakraborti , Bert Joseph Prestoza , Nicholas Vincent , Seth Frey

摘要

AI 的快速扩展促使人们越来越重视开发和实践中的伦理考量。这导致了日益复杂的模型审计和报告要求，以及旨在减轻对个人和社会潜在风险的治理框架的制定。在这个关键时期，我们审视了在开放生态系统（如开源软件）等非正式领域促进负责任 AI 和透明度的实际挑战，这些领域支撑着广泛的应用。我们重点关注模型性能评估如何为模型局限性、偏见和其他风险的探查提供信息或起到抑制作用。我们对 7903 个 Hugging Face 项目的对照分析发现，风险评估文档与评估实践密切相关。然而，来自该平台竞争性排行榜的提交（N=789）显示，高绩效者中的问责性较低。我们的发现可以为 AI 提供商和法律学者在设计干预措施和激励措施时提供参考，以在促进开源创新的同时鼓励合乎道德的应用。

关键词

responsible AI open ecosystems risk assessment model evaluation transparency governance

引用

@article{arxiv.2409.19104,
  title  = {Responsible AI in Open Ecosystems: Reconciling Innovation with Risk Assessment and Disclosure},
  author = {Mahasweta Chakraborti and Bert Joseph Prestoza and Nicholas Vincent and Seth Frey},
  journal= {arXiv preprint arXiv:2409.19104},
  year   = {2024}
}

备注

[Under Review][WIP]

开放生态系统中的负责任 AI：协调创新与风险评估和披露

摘要

关键词

引用

备注

相关论文