MQG4AI：面向负责任的高风险 AI——以可解释性技术为重点阐释透明性
计算机与社会
2025-02-21 v1
摘要
随着人工智能（AI）系统越来越多地集成到关键领域，确保其负责任的设计和持续开发至关重要。有效的 AI 质量管理（QM）需要能够应对 AI 生命周期复杂性的工具和方法。在本文中，我们提出了一种 AI 生命周期规划方法，弥合通用指南与用例特定需求之间的差距（MQG4AI）。我们的工作旨在通过将生命周期规划与技术、伦理和监管需求对齐，为开发实现负责任 AI（RAI）的实用工具做出贡献。我们的方法的核心是引入一种灵活且可定制的基于质量门（Quality Gates）的方法论，其构建模块通过在 AI 生命周期中持续的信息链接来融入 RAI 知识，应对 AI 的演化特性。在我们当前的贡献中，我们特别关注模型开发过程中的解释阶段，并说明了如何将评估解释质量的指南与 MQG4AI 对齐，从而为整体透明性做出贡献。
引用
@article{arxiv.2502.11889,
title = {MQG4AI Towards Responsible High-risk AI -- Illustrated for Transparency Focusing on Explainability Techniques},
author = {Miriam Elia and Alba Maria Lopez and Katherin Alexandra Corredor and Bernhard Bauer and Esteban Garcia-Cuesta},
journal= {arXiv preprint arXiv:2502.11889},
year = {2025}
}