为可信赖AI建模符合GDPR的解释
人机交互
2021-09-10 v1
摘要
通过《通用数据保护条例》，欧盟阐明了其对自动决策和人工智能的愿景，即必须可靠且以人为本。我们尤其关注解释权，它要求行业为自动决策提供解释。为支持这一愿景的实施而成立的人工智能高级别专家组制定了指南，讨论了适用于以用户为中心的交互式解释工具的解释类型。在本文中，我们基于ISO 9241中以用户为中心的概念，提出了我们版本的解释性叙述，作为符合GDPR和AI-HLEG指南的以用户为中心的解释模型。通过使用解释性叙述，我们将为自动决策生成解释的问题转化为在解释空间上识别一条适当路径的问题，允许解释接收者交互式地探索该空间并生成最适合其需求的解释。为此，我们列出了合适的探索启发式方法，研究了解释的性质和结构，并讨论了所提出的模型，指出了其优缺点。
引用
@article{arxiv.2109.04165,
title = {Modelling GDPR-Compliant Explanations for Trustworthy AI},
author = {Francesco Sovrano and Fabio Vitali and Monica Palmirani},
journal= {arXiv preprint arXiv:2109.04165},
year = {2021}
}