通过交互式反事实示例向非专家揭示神经网络偏差
人机交互
2020-01-13 v2 人工智能
摘要
AI 算法并非没有偏差。传统上，非专家在揭示可能影响其生活的算法（例如性别偏差）中的潜在社会偏差方面几乎没有什么掌控力。我们提出了一个用于揭示常用 AI 方法——神经网络（NN）中偏差的交互式可视化工具 CEB 的初步设计。CEB 结合了反事实示例与神经网络决策过程的抽象，使非专家能够检测偏差。本文介绍了 CEB 的设计以及由 AI、HCI 与社会科学专家组成的专家小组（n=6）的初步发现。
引用
@article{arxiv.2001.02271,
title = {Revealing Neural Network Bias to Non-Experts Through Interactive Counterfactual Examples},
author = {Chelsea M. Myers and Evan Freed and Luis Fernando Laris Pardo and Anushay Furqan and Sebastian Risi and Jichen Zhu},
journal= {arXiv preprint arXiv:2001.02271},
year = {2020}
}