开源 AI 事故致因分析的分类系统
人工智能
2022-11-15 v1 计算机与社会
摘要
尽管某些工业领域（如航空）有着强制事故报告并附分析结论的悠久历史，但人工智能（AI）安全实践并无此类强制要求，因此分析必须基于公开已知的“开源”AI 事故进行。尽管 AI 事故的确切原因外人很少知晓，本工作展示了如何运用关于 AI 事故数据库（AIID）中事故总体的专家知识，来推断导致所报告故障与危害的潜在且可能的技术性致因因素。我们呈现了一个分类系统的早期工作，该系统涵盖级联的相互关联事故因素，从系统目标（几乎总是已知）到方法/技术（多数情况下可知）以及所涉系统的技术故障原因（需专家分析）。我们将该本体结构配以利用专家知识和社区反馈的综合分类流程，从而得到由事故数据和人类专业知识支撑的分类标注。
引用
@article{arxiv.2211.07280,
title = {A taxonomic system for failure cause analysis of open source AI incidents},
author = {Nikiforos Pittaras and Sean McGregor},
journal= {arXiv preprint arXiv:2211.07280},
year = {2022}
}