利用公平性增强敏感属性重构
机器学习
2022-09-07 v1 人工智能
密码学与安全
摘要
近年来，关于如何在公平性约束下学习机器学习模型的工作日益增多，这些约束常针对某些敏感属性表达。本工作中，我们考虑攻击者具有目标模型黑盒访问权限的场景，并表明模型公平性信息可被攻击者利用以增强其对训练数据敏感属性的重构。更确切地，我们提出一种通用重构校正方法，其以攻击者的初始猜测为输入，并在最小化猜测改动的同时将其校正以符合某些用户定义约束（如公平性信息）。所提方法对目标模型类型、公平感知学习方法及攻击者辅助知识均无关。为评估方法适用性，我们在两种SOTA公平学习方法上进行了详尽实验评估，使用四种不同公平性度量（涵盖宽泛容忍度）及三个不同规模与敏感属性的数据集。实验结果证明了所提方法在改进训练集敏感属性重构上的有效性。
引用
@article{arxiv.2209.01215,
title = {Exploiting Fairness to Enhance Sensitive Attributes Reconstruction},
author = {Julien Ferry and Ulrich Aïvodji and Sébastien Gambs and Marie-José Huguet and Mohamed Siala},
journal= {arXiv preprint arXiv:2209.01215},
year = {2022}
}