公平缝合：揭示模型缝合在神经网络去偏中的潜力
机器学习
2023-11-08 v1 信息论
math.IT
摘要
在从银行贷款审批到人脸检测等不同应用中，机器学习模型的公平性追求已成为一项关键研究挑战。尽管人工智能算法在各领域被广泛采用，人们仍持续担忧这些模型中存在偏见与歧视。为解决这一紧迫问题，本研究提出一种称为“公平缝合（The Fairness Stitch, TFS）”的新方法，以增强深度学习模型的公平性。该方法将模型缝合与训练联合进行，同时引入公平性约束。在本研究中，我们通过对两个知名数据集 CelebA 和 UTKFace 的全面评估来检验所提方法的有效性。我们系统地将本方法与现有基线方法的性能进行比较。研究结果表明，在公平性与性能之间实现平衡权衡方面有显著改善，凸显了本方法应对偏见相关挑战并促进机器学习模型公平结果的良好潜力。本文对深度学习模型最后一层用于去偏的有效性的传统认知提出了挑战。
引用
@article{arxiv.2311.03532,
title = {The Fairness Stitch: Unveiling the Potential of Model Stitching in Neural Network De-Biasing},
author = {Modar Sulaiman and Kallol Roy},
journal= {arXiv preprint arXiv:2311.03532},
year = {2023}
}