VisCUIT：面向 CNN 图像分类器偏差的可视化审查工具
计算机视觉与模式识别
2022-04-14 v2 人机交互
机器学习
摘要
CNN 图像分类器因其高效与准确而被广泛使用。然而，它们可能受到偏差的影响，从而阻碍其实际应用。大多数现有的偏差调查技术要么不适用于通用图像分类任务，要么需要用户付出大量精力遍历所有数据子组以手动指定要检查的数据属性。我们提出 VisCUIT，一个揭示 CNN 分类器偏差成因与机制的交互式可视化系统。VisCUIT 以可视化方式总结分类器表现不佳的子组，并通过揭示导致误分类的神经元激活所对应的图像概念，帮助用户发现并刻画表现不佳的原因。VisCUIT 运行于现代浏览器且开源，使人们能轻松访问并将其扩展至其他模型架构与数据集。VisCUIT 可通过以下公开演示链接获取：https://poloclub.github.io/VisCUIT。视频演示见 https://youtu.be/eNDbSyM4R_4。
引用
@article{arxiv.2204.05899,
title = {VisCUIT: Visual Auditor for Bias in CNN Image Classifier},
author = {Seongmin Lee and Zijie J. Wang and Judy Hoffman and Duen Horng Chau},
journal= {arXiv preprint arXiv:2204.05899},
year = {2022}
}
备注
9 pages, 4 figures