面向通用人工智能的系统性风险有效缓解措施

通用人工智能模型所施加的系统性风险正日益成为关注焦点，但关于缓解措施实际效果的研究仍不充分。以往的研究提出了风险缓解框架，但留下了我们对不同缓解措施在降低通用人工智能系统性风险方面 perceived effectiveness 之理解空白。本研究通过评估专家对旨在降低通用人工智能模型系统性风险的不同缓解措施 perceived 效果来填补这一空白。我们对76名专家进行了调查，其专业领域涵盖人工智能安全、关键基础设施、民主进程、化学、生物、放射和核风险（CBRN），以及歧视和偏见。我们通过文献综述识别出27项缓解措施后发现，一广泛的风险缓解措施范围被专家认为在降低各种系统性风险方面效果显著且技术上可行。特别是，三项缓解措施脱颖而出：安全事件报告与安全信息共享、第三方部署前模型审计，以及部署前风险评估。这三项措施在所有四类风险领域中获得的最高专家一致性评分超过60%，在专家偏好组合中被选中的频率也超过40%。受访专家强调，外部监督、主动评估和透明度是有效缓解系统性风险的关键原则。我们提供了针对最具前景缓解措施的政策建议，纳入了来自专家的定性贡献。这些见解应用于制定面向通用人工智能系统性风险的监管框架和行业实践。