ABCinML：机器学习应用中的预期偏差校正
机器学习
2022-06-15 v1
摘要
一次性训练并永久部署的静态机器学习模型的理想化并不实用。随着输入分布随时间变化，模型不仅会丧失准确性，任何旨在减少对受保护类别偏差的约束也可能无法如预期般工作。因此，研究者已开始探索随时间维持算法公平性的方法。一类工作聚焦于动态学习：每批数据后重新训练；另一类聚焦于鲁棒学习，试图使算法对所有可能的未来变化保持鲁棒。动态学习力求在偏差发生后不久即予以削减，而鲁棒学习常产生（过度）保守的模型。我们提出一种预期性动态学习方法，用于在偏差发生前校正算法以缓解偏差。具体而言，我们利用关于下一周期中群体子组（例如男女申请者的相对比例）相对分布的预期，来为重要性加权公平性方法确定正确参数。在多个真实数据集上的实验结果表明，该方法在预期偏差校正方面具有前景。
引用
@article{arxiv.2206.06960,
title = {ABCinML: Anticipatory Bias Correction in Machine Learning Applications},
author = {Abdulaziz A. Almuzaini and Chidansh A. Bhatt and David M. Pennock and Vivek K. Singh},
journal= {arXiv preprint arXiv:2206.06960},
year = {2022}
}