基于以用户为中心设计方法的有意义可解释人工智能

本报告首先梳理了各类欧盟指令、法规、指南及欧盟法院判例法中出现的与可解释人工智能(XAI)相关的要求。对现有要求的分析将使我们更清晰地认识 XAI 的目的亦即“为何”需要 XAI，我们将其分为五类：可争议性、赋权/纠正信息不对称、对系统性能的控制、对算法决策的评估，以及公共行政透明度。对法律要求的分析还使我们建立了可解释性的四类接收者：数据科学团队；系统的人类操作员；受算法决策影响的个人；以及监管者/法官/审计员。最后，我们确定了可解释性的四个主要操作情境：用于上游设计与测试阶段的 XAI；用于人在回路监控(human-on-the-loop)控制的 XAI；用于人在回路(human-in-the-loop)控制的 XAI；以及用于事后质疑与调查的 XAI。其次，我们将介绍以用户为中心的设计方法，该方法将目的、接收者与操作情境纳入考量，以开发最优的 XAI 解决方案。第三，我们将提出一种方法，使高风险 AI 应用的供应方与使用方能够提出局部的 XAI 解决方案，这些方案在“有意义”的意义上是有效的，例如，在操作性、安全性及基本权利情境下是有用的。开发这些“有意义”的 XAI 解决方案所依据的流程将基于第二部分考察的以用户为中心的设计原则。第四，我们建议欧盟委员会发布指南，以基于 AI 系统的目的、受众与操作情境，提供界定“有意义”解释的统一方法。这些指南将适用于《人工智能法案》，也适用于其他要求对算法系统及结果作出解释的欧盟文本。