XAlgo：一种通过问答解释算法内部状态的设计探察
人机交互
2021-03-02 v2
摘要
算法对非专业用户而言常常如同“黑箱”。虽然先前的研究侧重于可解释表示与面向专家的探索，我们提出并研究了一种交互式方法，利用问答向需要理解算法内部状态（例如学习算法的学生、监控机器人的操作员、排查网络路由的管理员）的非专业用户解释确定性算法。我们构建了 XAlgo——一个形式化模型，它首先基于一套分类法对问题类型进行分类，并基于一组从算法内部状态表示（如伪代码）中提取信息的规则生成答案。在一项有 18 名参与者（9 名使用 Wizard-of-Oz 版 XAlgo，9 名为对照组）的算法学习场景设计探察中，我们根据人们提出何种问题、XAlgo 回应效果如何，以及哪些仍是弥合用户对算法理解鸿沟的挑战，报告了研究发现与设计启示。
引用
@article{arxiv.2007.07407,
title = {XAlgo: a Design Probe of Explaining Algorithms' Internal States via Question-Answering},
author = {Juan Rebanal and Yuqi Tang and Jordan Combitsis and Xiang 'Anthony' Chen},
journal= {arXiv preprint arXiv:2007.07407},
year = {2021}
}