支持通用人工智能系统标准的风险来源与风险管理措施
计算机与社会
2024-11-18 v2 人工智能
机器学习
摘要
迫切需要识别新兴人工智能（AI）类型的短期和长期风险，以及可用的风险管理措施。为此，并为了支持全球在监管AI和编写安全标准方面的努力，我们编制了一份详尽的通用人工智能（GPAI）系统风险来源和风险管理措施目录，并在相关处附有描述和支持性示例。这项工作涉及识别模型开发、训练和部署阶段的技术、操作和社会风险，以及调查管理这些风险的既定和实验性方法。据我们所知，本文是首篇对GPAI风险来源和风险管理措施进行广泛记录的文章，其描述详尽、自成一体，且对任何现有监管框架保持中立。这项工作旨在帮助AI提供商、标准专家、研究人员、政策制定者和监管机构识别和缓解GPAI系统的系统性风险。为此，该目录以公共领域许可发布，以便AI治理和标准领域的利益相关者直接使用。
引用
@article{arxiv.2410.23472,
title = {Risk Sources and Risk Management Measures in Support of Standards for General-Purpose AI Systems},
author = {Rokas Gipiškis and Ayrton San Joaquin and Ze Shen Chin and Adrian Regenfuß and Ariel Gil and Koen Holtman},
journal= {arXiv preprint arXiv:2410.23472},
year = {2024}
}
备注
92 pages, 8 figures