分散注意力即公平之道
机器学习
2023-11-07 v3 人工智能
摘要
在分类任务中，必须对训练数据集中的不同群体进行管理以确保障碍平等或平等对待。随着人工智能模型近年的增长及其在自动化决策中作用的扩大，确保这些模型无偏至关重要。大量证据表明，这些模型可能包含甚至放大其所训练数据中的偏差，这源于其目标函数和学习算法的内在特性；许多研究者从多个方向关注此问题，即改变数据使其统计独立、通过对抗训练限制旨在最大化均等的特定竞争者的能力等。这些方法导致信息损失，不能在准确性与公平性间提供合适平衡，或不能确保限制训练中的偏差。为此，我们提出一种称为分散注意力模块（Distraction module）的深度学习模型训练强力策略，该策略可在理论上证明能有效控制偏差对分类结果的影响。该方法可用于不同数据类型（如表格、图像、图等）。我们在UCI Adult和Heritage Health数据集（表格）、POKEC-Z、POKEC-N和NBA数据集（图）以及CelebA数据集（视觉）上测试，展示了所提方法的效力。利用公平文献中针对各数据集提出的SOTA方法，我们表明我们的模型在最小化偏差和保持准确性方面优于这些提出的方法。
引用
@article{arxiv.2203.07593,
title = {Distraction is All You Need for Fairness},
author = {Mehdi Yazdani-Jahromi and AmirArsalan Rajabi and Ali Khodabandeh Yalabadi and Aida Tayebi and Ozlem Ozmen Garibay},
journal= {arXiv preprint arXiv:2203.07593},
year = {2023}
}