具有差分隐私文本编码器的公平 NLP 模型

Gaurav Maheshwari; Pascal Denis; Mikaela Keller; Aurélien Bellet

具有差分隐私文本编码器的公平 NLP 模型

计算与语言 2022-05-13 v1 机器学习

作者: Gaurav Maheshwari , Pascal Denis , Mikaela Keller , Aurélien Bellet

摘要

编码文本表示常常捕获关于个体的敏感属性（例如种族或性别），这引发了隐私担忧，并可能使下游模型对某些群体不公平。在这项工作中，我们提出 FEDERATE，一种结合差分隐私与对抗训练思想的方法，以学习私有文本表示，同时诱导出更公平的模型。我们在四个 NLP 数据集上实证评估了表示的隐私与下游模型的公平性和准确性之间的权衡。我们的结果表明，FEDERATE 持续优于先前的方法，从而表明隐私与公平性能够正向相互促进。

关键词

公平自然语言处理差分隐私文本编码器对抗训练私有表示公平性与准确性权衡

引用

@article{arxiv.2205.06135,
  title  = {Fair NLP Models with Differentially Private Text Encoders},
  author = {Gaurav Maheshwari and Pascal Denis and Mikaela Keller and Aurélien Bellet},
  journal= {arXiv preprint arXiv:2205.06135},
  year   = {2022}
}

备注

submitted to: ACL-ARR 2022 (February) - https://openreview.net/forum?id=BVgNSki6q1c

具有差分隐私文本编码器的公平 NLP 模型

摘要

关键词

引用

备注

相关论文