基于欧盟人工智能法案的质量管理系统设计
软件工程
2024-11-13 v2 人工智能
计算机与社会
摘要
欧盟人工智能法案要求高风险AI系统的提供者和部署者建立质量管理体系（QMS）。除其他标准外，QMS应有助于验证和记录AI系统设计与质量，并监控所有高风险AI系统要求的正确实施。当前研究很少探索实施欧盟人工智能法案的实用解决方案。相反，它倾向于关注理论概念。因此，必须更多关注帮助人类主动检查和记录AI系统并协调实施所有高风险AI系统要求的工具。因此，本文引入了一种QMS的新设计概念和原型，作为微服务软件即服务Web应用程序。它直接连接到AI系统进行验证和文档记录，并实现各种子服务的协调与集成，这些子服务可分别设计，各自针对特定的高风险AI系统要求。原型的第一个版本以Phi-3-mini-128k-instruct LLM作为AI系统的示例进行连接，并集成了风险管理系统和数据管理系统。通过对已实施要求的定性评估、GPU内存与性能分析以及IT、AI和法律专家的评估来验证该原型。
引用
@article{arxiv.2408.04689,
title = {Design of a Quality Management System based on the EU Artificial Intelligence Act},
author = {Henryk Mustroph and Stefanie Rinderle-Ma},
journal= {arXiv preprint arXiv:2408.04689},
year = {2024}
}