AI 风险档案：一项关于部署前 AI 风险披露的 standards 提案
人工智能
2023-09-26 v1 计算机与社会
摘要
随着 AI 系统的复杂性与扩散程度增加，对风险的认知也成比例增长（Sorkin 等 2023）。作为回应，要求 AI 行业更强调披露与透明度的呼声渐高（NTIA 2023；OpenAI 2023b），提案范围从标准化技术披露的使用（如模型卡片（Mitchell 等 2019））到尚不明确的许可制度（Sindhu 2023）。由于 AI 价值链复杂，参与者具备不同专业知识、视角与价值观，透明度披露的消费者必须能够理解其所涉披露的 AI 系统的风险。在本文中，我们提出一种风险分析标准，可指导下游决策，包括分流进一步风险评估、告知采购与部署，以及指引监管框架。该标准基于我们提出的 AI 风险分类法，其反映了文献中提出的广泛风险的高层分类。我们概述了构建信息丰富的风险档案所需的众多数据源，并提出了一种基于模板的方法，用于将风险信息整理为标准化且灵活的结构。我们使用公开可用信息将该方法应用于若干知名 AI 系统。最后，我们讨论了档案的设计决策与未来工作。
引用
@article{arxiv.2309.13176,
title = {AI Risk Profiles: A Standards Proposal for Pre-Deployment AI Risk Disclosures},
author = {Eli Sherman and Ian W. Eisenberg},
journal= {arXiv preprint arXiv:2309.13176},
year = {2023}
}