FAIR-SIGHT：基于同步保守阈值与动态输出修复的图像识别公平性保障
计算机视觉与模式识别
2025-04-11 v1 人工智能
摘要
我们提出FAIR-SIGHT，一种创新的后置框架，用于确保计算机视觉系统的公平性，通过结合保守预测与动态输出修复机制。该方法计算一个公平性感知的非 conformity 分数，同时评估预测误差和公平性违规。利用保守预测，我们建立一个自适应阈值，提供严格的有限样本、分布无关的保证。当新图像的非 conformity 分数超过校准阈值时，FAIR-SIGHT实施针对性的纠正调整，例如对分类进行logit偏移，对检测进行置信度重校准，以减少组公平和个人公平差异，无需重新训练或访问内部模型参数。综合的理论分析验证了该方法的错误控制和收敛性。同时，广泛的实证评估显示，FAIR-SIGHT在保持高预测性能的同时，显著减少了公平性差异。
引用
@article{arxiv.2504.07395,
title = {FAIR-SIGHT: Fairness Assurance in Image Recognition via Simultaneous Conformal Thresholding and Dynamic Output Repair},
author = {Arya Fayyazi and Mehdi Kamal and Massoud Pedram},
journal= {arXiv preprint arXiv:2504.07395},
year = {2025}
}