可信人工智能：迈向机器学习应用的认证

人工智能是 21 世纪增长最快的技术之一，并在我们与技术应用交互的日常生活中相伴左右。然而，对此类技术系统的信赖对其广泛适用与接受至关重要。社会表达信赖的工具通常通过法律规制 formalized，即标准、规范、认可与证书。因此，TÜV AUSTRIA 集团与林茨约翰内斯·开普勒大学机器学习研究所合作，提出了一种面向机器学习应用的认证流程与审计目录。我们确信，我们的方法可作为使用机器学习与深度学习（驱动当前人工智能革命的技术）应用认证的基础。尽管某些高风险领域（如与人共享工作空间的全自主机器人）的认证尚需时日，我们旨在以我们的认证程序覆盖低风险应用。我们的整体方法试图从多视角分析机器学习应用，以评估与验证安全软件开发、功能需求、数据质量、数据保护与伦理等方面。受现有工作启发，我们引入四个关键性等级，以映射机器学习应用因其决策对人、环境及组织影响的关键程度。目前，该审计目录可应用于工业中常见的监督学习范围内的低风险应用。在实地经验、科学进展与市场需求引导下，审计目录将相应扩展与修订。