通过公平性攻击加剧算法偏见
机器学习
2020-12-17 v1 人工智能
密码学与安全
摘要
算法公平性近年来受到显著关注，许多量化度量被提出以刻画不同机器学习算法的公平性。尽管有此关注，这些公平性度量在面对蓄意对抗攻击时的鲁棒性尚未得到妥善解决。事实上，大多数对抗机器学习聚焦于恶意攻击对系统准确性的影响，而忽视系统的公平性。我们提出新型的数据投毒攻击，其中 adversary 故意以系统公平性为目标。具体而言，我们提出针对公平性度量的两类攻击族。在锚定攻击中，我们通过将投毒点置于特定目标点附近来偏置决策边界以扭曲结果。在针对公平性的影响攻击中，我们旨在最大化敏感属性与决策结果之间的协方差并影响模型的公平性。我们进行了大量实验，表明所提攻击的有效性。
引用
@article{arxiv.2012.08723,
title = {Exacerbating Algorithmic Bias through Fairness Attacks},
author = {Ninareh Mehrabi and Muhammad Naveed and Fred Morstatter and Aram Galstyan},
journal= {arXiv preprint arXiv:2012.08723},
year = {2020}
}