适配 SQuaRE 以评估人工智能系统质量
计算机与社会
2019-08-07 v1 机器学习
软件工程
摘要
越来越多的软件从业者致力于人工智能（AI）系统的工业应用，尤其是基于机器学习（ML）的系统。然而，许多针对传统系统的既有原则与方法，对于通过训练而非逻辑设计获得的系统行为并不奏效。此外，诸如公平性与可解释性等的独特需求正在涌现。为清晰指导理解与应对这些困难，我们分析了对于 AI 系统应评估哪些质量概念。我们的讨论基于 ISO/IEC 25000 系列（即 SQuaRE），并明确应如何针对 ML 的独特性质以及欧洲委员会的《可信 AI 伦理指南》进行适配。从而，我们通过将 ML 特性与 AI 伦理纳入传统软件质量概念，为 AI 系统质量提供了整体洞见。
引用
@article{arxiv.1908.02134,
title = {Adapting SQuaRE for Quality Assessment of Artificial Intelligence Systems},
author = {Hiroshi Kuwajima and Fuyuki Ishikawa},
journal= {arXiv preprint arXiv:1908.02134},
year = {2019}
}