humancompatible.detect：用于检测AI模型偏见的Python工具包
人工智能
2026-01-21 v2
摘要
近年来，针对可信AI的强调日益增长。特别是，国际法规如《AI法案》要求AI从业者衡量输入数据质量并估计高风险AI系统输出中的偏见。然而，涉及诸多挑战，包括传统方法在度量空间上估计距离的可扩展性（MMD）和可计算性（Wasserstein-1）问题。本文提出humancompatible.detect，一款用于偏见检测的工具包，以解决这些挑战。它融合了两种新开发的方法用于检测和评估偏见：最大子组差异（MSD）和抽样 距离。其 API 使用简便，附有多个示例。humancompatible.detect 采用Apache许可第2版许可。
引用
@article{arxiv.2509.24340,
title = {humancompatible.detect: a Python Toolkit for Detecting Bias in AI Models},
author = {German M. Matilla and Jiri Nemecek and Illia Kryvoviaz and Jakub Marecek},
journal= {arXiv preprint arXiv:2509.24340},
year = {2026}
}
备注
6 pages, 5 figures