可解释深度学习应用中的中介挑战与社会技术鸿沟
人工智能
2019-07-17 v1 人机交互
机器学习
摘要
欧洲《通用数据保护条例》所带来的 presumed 数据主体知情权（解释权）揭示了可解释人工智能（XAI）的社会挑战。本文中，我们呈现了一项与来自某聚焦工业级 AI 技术交付的研发实验室的深度学习（DL）专家所做的案例研究。我们的目的是在丰富情境化且熟悉的应用领域下，考察 DL 专家对其工作的社会意义（即对他人的意义）的赋予。采用定性研究技术收集并分析经验数据，我们的研究表明，参与的 DL 专家并未自发地考量其所构建机器学习模型的社会意义。此外，当被明确引导如此做时，这些专家表达出一种预期：在真实世界 DL 应用中，将有可用的中介者来弥合驱动 DL 工作的技术意义与 AI 技术使用者所赋予的社会意义之间的鸿沟。我们得出结论：当前引导参与者科学兴趣与行为的研究激励与价值，与应对推进 XAI 所涉若干科学挑战（从而回应 alleged 数据主体解释权或当前辩论中涌现的类似社会诉求）所需者相左。作为缓解这一看似更普遍问题的具体贡献，我们提出三项初步的 XAI 中介挑战，有望统合 DL 应用的技术与社会意义，并促进 AI 与社会科学研究者之间亟需的跨学科协作。
引用
@article{arxiv.1907.07178,
title = {Mediation Challenges and Socio-Technical Gaps for Explainable Deep Learning Applications},
author = {Rafael Brandão and Joel Carbonera and Clarisse de Souza and Juliana Ferreira and Bernardo Gonçalves and Carla Leitão},
journal= {arXiv preprint arXiv:1907.07178},
year = {2019}
}
备注
39 pages