通过超参数优化促进公平性
机器学习
2022-07-13 v2 人工智能
摘要
大量研究工作致力于算法公平性，但偏差减少技术的实际采用仍然很少。现有方法或是特定于度量或模型，或需要在推理时访问敏感属性，或带来较高的开发或部署成本。本工作探讨了仅针对预测性能优化 ML 模型时浮现的不公平性，以及如何用一种简单且易于部署的干预来缓解它：公平性感知超参数优化（HO）。我们提出并评估了三种流行 HO 算法的公平性感知变体：Fair Random Search、Fair TPE 和 Fairband。我们在一个真实的银行账户开户欺诈案例研究以及公平性文献中的三个数据集上验证了我们的方法。结果表明，与公平性盲视的 HO 相比，在无额外训练成本的情况下，可以找到平均公平性提升 111% 且性能仅下降 6% 的模型。
引用
@article{arxiv.2103.12715,
title = {Promoting Fairness through Hyperparameter Optimization},
author = {André F. Cruz and Pedro Saleiro and Catarina Belém and Carlos Soares and Pedro Bizarro},
journal= {arXiv preprint arXiv:2103.12715},
year = {2022}
}
备注
arXiv admin note: substantial text overlap with arXiv:2010.03665