与 AI 实践者和 AI 合规专家共同设计 AI 影响评估报告模板
人机交互
2024-08-05 v2 人工智能
摘要
在 AI 监管不断演进的背景下，企业必须进行影响评估并通过综合报告文档其合规性。然而，当前报告缺乏对监管的支撑，往往仅聚焦于特定方面，如隐私，而未涵盖这些系统的实际应用场景。此外，目前没有系统性地以 AI 实践者和 AI 合规专家共同设计和评估这些报告的努力。为此，我们与 14 名 AI 实践者和 6 名 AI 合规专家开展了迭代共同设计过程，提出了一套基于欧盟 AI 法案、NIST AI 风险管理框架以及 ISO 42001 AI 管理系统的影响评估报告模板。我们通过为一家大型科技公司中的 AI 基于会议的伴侣系统生产影响评估报告来评估该模板。来自同一公司的 8 名 AI 实践者和来自行业和学术界的 5 名 AI 合规专家的用户研究显示，我们的模板有效地提供了进行影响评估所需的信息，并文档化了 AI 系统的广泛影响。参与者预计将不仅在部署前阶段用于合规，还用作指导 AI 用例设计阶段的工具。
引用
@article{arxiv.2407.17374,
title = {Co-designing an AI Impact Assessment Report Template with AI Practitioners and AI Compliance Experts},
author = {Edyta Bogucka and Marios Constantinides and Sanja Šćepanović and Daniele Quercia},
journal= {arXiv preprint arXiv:2407.17374},
year = {2024}
}
备注
16 pages, 6 figures