隐私总是损害公平性吗？基于切尔诺夫信息神经估计的数据依赖权衡
机器学习
2026-03-25 v2 人工智能
信息论
math.IT
机器学习
摘要
公平性和隐私是可信机器学习的两个重要支柱。尽管对这两个独立主题已有广泛研究，但它们之间的关系受到的关注却少得多。在本文中，我们利用信息论度量——切尔诺夫信息（Chernoff Information）来刻画由输入数据分布引起的公平性、隐私和准确性之间的基本权衡。我们首先提出了切尔诺夫差异（Chernoff Difference），一种数据公平性的概念，及其噪声变体——噪声切尔诺夫差异（Noisy Chernoff Difference），这使我们能够同时分析公平性和隐私。通过简单的高斯示例，我们展示了噪声切尔诺夫差异根据底层数据分布表现出三种性质不同的行为。为了将此分析扩展到合成设置之外，我们开发了切尔诺夫信息神经估计器（CINE），这是第一个针对未知分布的基于神经网络的切尔诺夫信息估计器。我们应用CINE来分析真实世界数据集上的噪声切尔诺夫差异。总之，这项工作通过提供一种原则性的、数据依赖的公平性-隐私交互表征，填补了文献中的一个关键空白。
引用
@article{arxiv.2601.13698,
title = {Does Privacy Always Harm Fairness? Data-Dependent Trade-offs via Chernoff Information Neural Estimation},
author = {Arjun Nichani and Hsiang Hsu and Chun-Fu and Chen and Haewon Jeong},
journal= {arXiv preprint arXiv:2601.13698},
year = {2026}
}