DetoxAI：用于计算机视觉中深度学习模型去偏的 Python 工具包
计算机视觉与模式识别
2025-05-12 v1 人工智能
机器学习
摘要
尽管机器学习公平性近年来取得了显著进展，但大多数现有解决方案侧重于表格数据，且不适用于严重依赖深度学习的视觉分类任务。为弥合这一差距，我们引入了 DetoxAI，一个通过事后去偏来提升深度学习视觉分类器公平性的开源 Python 库。DetoxAI 实现了最先进的去偏算法、公平性指标和可视化工具。它支持通过干预内部表征来进行去偏，并包含基于归因的可视化工具和定量算法公平性指标，以展示偏差如何被缓解。本文阐述了 DetoxAI 的动机、设计和使用案例，展示了其对工程师和研究人员的实际价值。
引用
@article{arxiv.2505.05492,
title = {DetoxAI: a Python Toolkit for Debiasing Deep Learning Models in Computer Vision},
author = {Ignacy Stępka and Lukasz Sztukiewicz and Michał Wiliński and Jerzy Stefanowski},
journal= {arXiv preprint arXiv:2505.05492},
year = {2025}
}