来自 AI 事件数据库的 AI 事件编辑经验
计算机与社会
2024-09-26 v1 人工智能
机器学习
摘要
随着人工智能（AI）系统在世界范围内的部署日益广泛，它们也越来越多地卷入 AI 事件——对个人和社会造成伤害的事件。因此，全球工业界、公民社会和政府正在制定监控和分析 AI 事件的最佳实践与法规。AI 事件数据库（AIID）是一个编目 AI 事件的项目，它通过提供一个平台对不同操作和研究导向的目标进行事件分类，从而支持进一步的研究。本研究审查了 AIID 包含 750 多起 AI 事件的数据集，以及应用于这些事件的两个独立分类法，以识别索引和分析 AI 事件时的常见挑战。我们发现，某些 AI 事件模式呈现出结构性歧义，对事件数据库化构成挑战，并探讨了 AI 事件报告中的认知不确定性为何不可避免。因此，我们报告了缓解措施，以使事件处理过程对与原因、伤害程度、严重性或涉事系统技术细节相关的不确定性更具鲁棒性。基于这些发现，我们讨论了如何发展未来的 AI 事件报告实践。
引用
@article{arxiv.2409.16425,
title = {Lessons for Editors of AI Incidents from the AI Incident Database},
author = {Kevin Paeth and Daniel Atherton and Nikiforos Pittaras and Heather Frase and Sean McGregor},
journal= {arXiv preprint arXiv:2409.16425},
year = {2024}
}
备注
8 pages, 0 figures