针对视觉性别分类中的偏见的解释性交互式机器学习
复变函数
2026-02-17 v1
摘要
解释性交互式学习（XIL）通过让用户对模型的解释提供反馈来指导机器学习（ML）模型的训练，从而帮助模型聚焦于用户视角中与预测相关的特征。在本研究中，我们探讨了这一学习范式在缓解视觉分类器中的偏见和虚假关联方面的能力，特别是在数据偏见较大的场景下，例如性别分类。我们研究了两种方法学不同的状态机方法，即 CAIPI 和 Right for the Right Reasons（RRR），以及一种结合两种策略的新颖混合方法。结果通过将分割掩码与使用梯度加权类激活映射（GradCAM）和有界逻辑注意（BLA）生成的解释进行比较来定量评估。实验结果表明，这些方法在（i）引导 ML 模型聚焦于相关图像特征（尤其是在使用 CAIPI 时）以及（ii）减少模型偏见（即平衡男性和女性预测的误分类率）方面都有效。我们的分析进一步支持 XIL 方法提高性别分类器公平性的潜力。总体而言，XIL 带来的透明度和公平性提升虽在性能上略有下降，但 CAIPI 除外，其显示出甚至可以提高分类准确性的潜力。
引用
@article{arxiv.2602.13285,
title = {Normality Criteria for Differential Monomials and the Sharpness of Lappan-type Theorems},
author = {Molla Basir Ahamed and Sanju Mandal and Nguyen Van Thin},
journal= {arXiv preprint arXiv:2602.13285},
year = {2026}
}
备注
18 pages, 0 figures