公平协方差神经网络
机器学习
2025-01-15 v2 机器学习
摘要
由于能够建模数据的互联性和依赖性，基于协方差的数据处理在信号处理和机器学习应用中非常普遍。然而，数据中的有害偏差可能会被编码在样本协方差矩阵中，导致数据驱动的方法不公平地对待不同子群体。现有的工作如公平主成分分析 (PCA) 减轻了这些影响，但在低样本量情况下仍不稳定，这反过来可能会危及公平性目标。为了同时解决偏差和不稳定性问题，我们提出了公平协方差神经网络 (FVNNs)，它对协方差矩阵执行图卷积，以实现公平且准确的预测。我们的 FVNNs 提供了一个与多种现有偏差缓解技术兼容的灵活模型。具体而言，FVNNs 允许通过两种方式缓解偏差：首先，它们在去除了主成分偏差的公平协方差估计上运行；其次，它们通过损失函数中的公平性正则化器以端到端的方式进行训练，使得模型参数能够直接以公平的方式解决任务。我们证明，得益于在低样本量情况下的稳定性，FVNNs 本质上比类似的 PCA 方法更公平。我们在合成和真实数据上验证了模型的鲁棒性和公平性，展示了 FVNNs 的灵活性以及公平与准确性能之间的权衡。
引用
@article{arxiv.2409.08558,
title = {Fair CoVariance Neural Networks},
author = {Andrea Cavallo and Madeline Navarro and Santiago Segarra and Elvin Isufi},
journal= {arXiv preprint arXiv:2409.08558},
year = {2025}
}