使事物可解释 versus 解释：GDPR下的需求与挑战
计算机与社会
2022-01-20 v1 人工智能
摘要
欧盟(EU)通过人工智能高级别专家组(AI-HLEG)与《通用数据保护条例》(GDPR)近期向可解释AI(XAI)界提出了一个有趣的挑战，要求采用更以用户为中心的方法来解释自动决策系统(ADMs)。审视相关文献，XAI目前专注于产出可解释软件与解释，通常遵循一种我们可称为“一刀切”的方法，无法满足以用户需求为中心的要求。这一局限的成因之一在于认为仅使事物可解释就足以获得实用解释。因此，坚持明确区分可解释性(可被解释的事物)与解释，我们指出解释性AI(YAI)作为一种替代且更强大的方法来应对AI-HLEG挑战。YAI构建于XAI之上，旨在收集与组织可解释信息，将其表述为我们所称的以用户为中心的解释性话语。通过使用解释性话语/叙事，我们将为自动决策系统(ADMs)生成解释的问题表征为在解释空间中识别适当路径，使被解释者能够交互式探索该空间并生成最契合其需求的解释。
引用
@article{arxiv.2110.00758,
title = {Making Things Explainable vs Explaining: Requirements and Challenges under the GDPR},
author = {Francesco Sovrano and Fabio Vitali and Monica Palmirani},
journal= {arXiv preprint arXiv:2110.00758},
year = {2022}
}