FairLRF：通过稀疏低秩分解实现公平性
机器学习
2025-11-21 v1
摘要
随着深度学习（DL）技术在各类应用中日益重要，确保在保持高性能的同时模型具有公平性，尤其在医学诊断等敏感领域变得日益关键。尽管提出了多种偏差缓解方法，但许多依赖计算昂贵的去偏策略，或在模型准确率上出现显著下降，限制了其在资源受限的实际场景中的实用性。为此，我们提出一种公平性导向的低秩分解（LRF）框架，利用奇异值分解（SVD）来提升DL模型的公平性。不同于传统SVD主要用于通过分解和减少权重矩阵实现模型压缩的是，我们的工作表明，SVD同样可以作为有效的公平性增强工具。具体而言，我们观察到从SVD中获得的单位矩阵元素在由敏感属性定义的各组之间对模型偏差贡献不均。基于此，我们提出一种方法，命名为FairLRF，通过选择性地移除单位矩阵中导致偏差的因素，以减少组间差异，从而提升模型公平性。广泛的实验表明，我们的方法优于传统LRF方法以及最新的公平性增强技术。此外，还有一个消融研究检验了主要超参数对处理后模型性能的影响。就已知而言，这是首个将SVD主要用于公平性增强而非压缩的工作。
引用
@article{arxiv.2511.16549,
title = {FairLRF: Achieving Fairness through Sparse Low Rank Factorization},
author = {Yuanbo Guo and Jun Xia and Yiyu Shi},
journal= {arXiv preprint arXiv:2511.16549},
year = {2025}
}