作为机器学习可解释性社会技术语境化经验分析透镜的解释策略
人机交互
2022-01-19 v1 人工智能
计算机与社会
摘要
在一个我们为非ML专家开发由机器学习（ML）驱动的视觉化系统的研究项目中，我们反思了ML、计算机支持的协同工作以及人机交互中的可解释性研究。我们发现，尽管存在多种技术方法，但它们往往聚焦于ML专家，并在去语境化的经验研究中被评估。我们假设参与式设计研究或有助于理解项目中利益相关者的情境化意义建构，然而发现关于ML可解释性的指导并不充分。基于技术哲学，我们将解释策略构建为一种经验分析透镜，用以阐明技术解释如何中介有关人们解读的语境偏好。在本文中，我们贡献了一份关于以概念验证方式运用解释策略来分析与非ML专家共同设计工作坊的报告、对参与式设计研究的方法论启示、面向非ML专家之解释的设计启示，并建议在ML可解释性空间中进一步探究技术中介理论。
引用
@article{arxiv.2109.11849,
title = {Explanation Strategies as an Empirical-Analytical Lens for Socio-Technical Contextualization of Machine Learning Interpretability},
author = {Jesse Josua Benjamin and Christoph Kinkeldey and Claudia Müller-Birn and Tim Korjakow and Eva-Maria Herbst},
journal= {arXiv preprint arXiv:2109.11849},
year = {2022}
}
备注
Conditionally accepted to ACM Group 2022. 25 pages, 4 figures