GAM Coach：迈向交互式且以用户为中心的算法反事实解释
机器学习
2023-03-02 v2 人工智能
人机交互
摘要
机器学习（ML）反事实技术正日益应用于高风险领域，为终端用户提供改变 ML 预测的操作，但它们假设 ML 开发者了解哪些输入变量可以改变。然而，反事实计划的可操作性是主观的，且不太可能完全符合开发者的期望。我们提出了 GAM Coach，这是一种新颖的开源系统，它调整整数线性规划以生成可定制的反事实解释，并利用交互式可视化使终端用户能够迭代生成满足其需求的反事实计划。一项有 41 名参与者参与的定量用户研究表明，我们的工具既可用又有用，且用户更喜欢个性化的反事实计划而非通用计划。通过日志分析，我们探索了用户如何发现令人满意的反事实计划，并提供了经验证据，证明透明度可以为日常用户发现 ML 模型中反直觉的模式提供更多机会。GAM Coach 可在以下网址获取：https://poloclub.github.io/gam-coach/。
引用
@article{arxiv.2302.14165,
title = {GAM Coach: Towards Interactive and User-centered Algorithmic Recourse},
author = {Zijie J. Wang and Jennifer Wortman Vaughan and Rich Caruana and Duen Horng Chau},
journal= {arXiv preprint arXiv:2302.14165},
year = {2023}
}
备注
Accepted to CHI 2023. 20 pages, 12 figures. For a demo video, see https://youtu.be/ubacP34H9XE. For a live demo, visit https://poloclub.github.io/gam-coach/