创建用户友好数据集：来自贷款拒绝解释案例研究的见解
计算机与社会
2019-06-12 v1
摘要
大多数可解释人工智能（XAI）技术关注的是设计算法来解释 AI 的决策。然而，用于训练这些算法的数据可能包含即使使用最好的 XAI 算法，最终用户也常常难以理解的特征。因此，可解释性问题必须从数据创建步骤开始就着手解决。本文中，我们研究了这一问题，考虑的用例是向最终用户（而非 AI 工程师或领域专家）解释贷款拒绝。由于缺乏能代表用户友好解释的数据集，我们构建了首个此类数据集，它代表了针对贷款拒绝的用户友好解释。本文分享了在整理该数据集过程中获得的一些见解。首先，现有数据集很少包含最终用户认为可以接受以理解模型决策的特征。其次，理解解释的上下文，例如寻求解释的“人在回路中”以及寻求解释的目的，有助于创建用户友好的数据集。因此，我们的数据集（我们称之为 Xnet）还包含服务于不同目的的解释：那些教育贷款申请人并帮助他们采取适当行动以争取未来获批的解释。我们希望这项工作将推动新的用户友好数据集的创建，并为此类数据集的整理提供指南。
引用
@article{arxiv.1906.04643,
title = {Creation of User Friendly Datasets: Insights from a Case Study concerning Explanations of Loan Denials},
author = {Ajay Chander and Ramya Srinivasan},
journal= {arXiv preprint arXiv:1906.04643},
year = {2019}
}
备注
presented at 2019 ICML Workshop on Human in the Loop Learning (HILL 2019), Long Beach, USA