通过群体标注与关联影响实现公平且隐私保护

隐私与公平在当今都极为重要。对于在线服务提供系统中的大多数情况，用户不得不与机构共享其个人信息。作为回报，客户不仅要求对其敏感数据提供高度隐私保障，还期望无论其年龄、性别、宗教、种族、肤色或其他敏感受保护属性如何都能受到公平对待。我们的工作引入了一种在隐私-效用-公平权衡间取得平衡的 novel 架构。所提出的机制应用群体标注方法 (Group Tagging Method) 和公平迭代洗牌 (Fairly Iterative Shuffling, FIS)，通过随机洗牌增强隐私并防止关联攻击。该算法基于受保护标注群体间等化最小 FPR-FNR 的关联影响 (Relation Impact) 引入公平分类问题。对于计数报告生成，聚合器使用 TF-IDF 添加噪声以提供纵向差分隐私 (Differential Privacy) 保障。最后，该机制通过风险最小化函数提升效用，并获得系统的最优隐私-效用预算。在我们的工作中，我们对招生系统中的性别平等进行了案例研究，并帮助获得了令人满意的结果，这意味着所提架构对数值和决策类查询均实现了群体公平与最优隐私-效用权衡。