BriarPatches：用于诱导人口统计均等的像素空间干预
机器学习
2018-12-18 v1 计算机视觉与模式识别
机器学习
摘要
我们提出了 BriarPatch，一种像素空间干预方法，可遮蔽预训练分类器所编码表征中的敏感属性。这些补丁促使模型内部表征不编码敏感信息，从而推动下游预测器在敏感信息方面表现出人口统计均等。最终结果是，这些 BriarPatch 提供了一种在用户层面可用的干预机制，并补充了先前关于公平表征的研究——那些研究此前仅适用于模型开发者和机器学习专家。
引用
@article{arxiv.1812.06869,
title = {BriarPatches: Pixel-Space Interventions for Inducing Demographic Parity},
author = {Alexey A. Gritsenko and Alex D'Amour and James Atwood and Yoni Halpern and D. Sculley},
journal= {arXiv preprint arXiv:1812.06869},
year = {2018}
}
备注
6 pages, 5 figures, NeurIPS Workshop on Ethical, Social and Governance Issues in AI