AI危害管理：一种对AI风险根因进行系统管理的框架
机器学习
2024-12-20 v2
摘要
人工智能(AI)领域的近期进展为应对挑战性任务奠定了基础。然而，随着AI的集成，新的风险随之产生。因此，为从其优势中获益，充分管控与AI相关的风险至关重要。相关领域(如软件系统)现有的风险管理流程需充分考量AI的特性。一项关键挑战是系统且透明地识别并处置AI风险的根因——亦称AI危害。本文引入AI危害管理(AIHM)框架，其提供结构化流程以系统性地识别、评估与处理AI危害。所提流程与开发并行开展，以确保在AI系统生命周期最早阶段捕获任何AI危害。此外，为保障AI系统的可审计性，该框架系统性地记录证据，证明已识别AI危害的潜在影响可被降低至可容忍水平。该框架构建于一项全面前沿分析所得的AI危害清单之上。同时，我们提供一种分类法以支持对已识别AI危害的最优处置。另外，我们展示了AIHM框架如何通过系统性地将已识别危害的影响降低至可接受水平，来提升电网AI用例的整体质量。
引用
@article{arxiv.2310.16727,
title = {AI Hazard Management: A framework for the systematic management of root causes for AI risks},
author = {Ronald Schnitzer and Andreas Hapfelmeier and Sven Gaube and Sonja Zillner},
journal= {arXiv preprint arXiv:2310.16727},
year = {2024}
}