基于联合不一致性的公平鲁棒主动学习

公平性与鲁棒性在可信机器学习中起着至关重要的作用。观察到各种标注成本高昂的视觉应用中的安全关键需求，我们引入了一种新颖的学习框架——公平鲁棒主动学习（FRAL），将传统主动学习推广到公平与对抗鲁棒场景。该框架使我们能够在有限获取标签的情况下实现标准与鲁棒极小极大公平性。在FRAL中，我们进一步观察到现有的公平感知数据选择策略要么在严重数据不平衡下失效，要么因对抗训练的巨大计算量而效率低下。为解决这两个问题，我们提出了一种新颖的联合不一致性（JIN）方法，利用良性输入与对抗输入之间以及标准模型与鲁棒模型之间的预测不一致性。这两种不一致性可用于识别潜在的公平性提升与数据不平衡缓解。因此，通过使用我们基于不一致性的排序指标进行标签获取，我们能够在有限计算下缓解类别不平衡问题并增强极小极大公平性。在多个数据集和敏感群体上的大量实验表明，与现有主动数据选择基线相比，我们的方法在白盒PGD攻击下的标准与鲁棒公平性均取得了最佳结果。