纵向距离：迈向可问责的实例归因
人工智能
2021-08-25 v1
摘要
先前在可解释机器学习（IML）和可解释人工智能（XAI）方面的研究大致可分为两类：一类侧重于在智能体模型中寻求可解释性（即 IML），另一类则除了模型外还关注用户的上下文（即 XAI）。前者可进一步分为特征归因或实例归因。基于示例或样本的方法，例如那些使用或受案例推理（CBR）启发的方法，依赖于各种方法来选择实例，但这些实例不一定是归因于智能体决策的实例。此外，现有方法侧重于可解释性和可说明性，但在可问责性方面有所欠缺。受案例推理原理的启发，本文引入了一种我们称之为纵向距离的伪度量，并将其用于将实例归因于神经网络智能体的决策，这有望用于构建可问责的 CBR 智能体。
引用
@article{arxiv.2108.10437,
title = {Longitudinal Distance: Towards Accountable Instance Attribution},
author = {Rosina O. Weber and Prateek Goel and Shideh Amiri and Gideon Simpson},
journal= {arXiv preprint arXiv:2108.10437},
year = {2021}
}