有代价的隐私：探索其对人工智能公平性的双重影响

机器学习（ML）和深度学习模型在全球范围内的采用，特别是在医疗保健和金融等关键领域，对维护个人隐私和公平性提出了重大挑战。这两个要素对于学习系统的可信环境至关重要。虽然许多研究集中在通过差分隐私（DP）机制保护个人隐私，但新兴研究表明，机器学习模型中的差分隐私会在预测准确性方面对不同的统计人口子群体产生不平等的影响。这引发了公平性问题，并表现为性能偏差。尽管普遍观点认为增强隐私会加剧公平性差异，但一小部分具有重要意义的研究提出了相反的观点。在本文中，通过广泛的评估结果，我们证明了差分隐私对公平性的影响并非单调的。相反，我们观察到随着 ML 过程中加入更多的 DP 噪声（增强隐私），准确性差异最初会增大，但在隐私水平更高且噪声更多时随后会减小。此外，在差分隐私随机梯度下降 ML 方法中实现梯度裁剪可以减轻 DP 噪声对公平性的负面影响。这种缓解是通过较低的裁剪阈值来减缓差异增长而实现的。