FairLoRA：通过公平驱动的低秩自适应解构视觉模型中的偏差缓解
人工智能
2024-10-24 v1
摘要
近年来，参数高效微调方法（如低秩自适应（LoRA））因其能够高效地将大型基础模型适应各种下游任务而受到广泛关注。这些方法在聚合级指标上实现了与全微调相当的性能，同时显著降低了计算成本。为了系统地解决大语言模型中的公平性问题，先前的研究使用比通常更大的LoRA秩在公平性特定数据上进行微调。在本文中，我们引入了FairLoRA，一种新颖的针对LoRA的公平性特定正则化器，旨在通过最小化每类损失的方差来减少数据子组之间的性能差异。据我们所知，我们是首个通过LoRA引入基于公平性的微调方法。我们的结果表明，使用更高秩来缓解偏差并非普遍适用；它取决于预训练模型、数据集和任务等因素。更重要的是，我们在涉及分布偏移的场景中，系统地评估了FairLoRA在各种视觉模型（包括ViT、DiNO和CLIP）上的表现。我们进一步强调了使用多种公平性指标以获得公平性整体评估的必要性，而非仅依赖训练期间优化的单一指标。
引用
@article{arxiv.2410.17358,
title = {FairLoRA: Unpacking Bias Mitigation in Vision Models with Fairness-Driven Low-Rank Adaptation},
author = {Rohan Sukumaran and Aarash Feizi and Adriana Romero-Sorian and Golnoosh Farnadi},
journal= {arXiv preprint arXiv:2410.17358},
year = {2024}
}