FairTTTS：用于公平性感知分类的树状测试时间仿真方法
机器学习
2025-01-15 v1 人工智能
摘要
算法决策已深深嵌入许多领域，但机器学习模型中的偏见仍可能产生不公平的结果，常损害无特权群体。实现公平分类本身具有挑战性，需要在预测性能和伦理考虑之间进行精心的平衡。我们提出了 FairTTTS，一种 novel 后处理偏差缓解方法，灵感来自树状测试时间仿真（TTTS）方法。最初developed 用于通过概率决策路径调整提高准确性和对对抗输入的鲁棒性，TTTS 作为提高准确性的技术基础。通过建立在此准确性提升技术之上，FairTTTS 缓解了偏见并提高了预测性能。FairTTTS 使用基于距离的启发式方法调整受保护属性节点的决策，以确保对无特权样本的公平性。这一以公平性为导向的调整发生在后处理步骤中，使 FairTTTS 可应用于预训练模型、多样化数据集和各种公平性度量标准，而无需重新训练。在七个基准数据集上的广泛评估显示，FairTTTS 在公平性改进方面优于传统方法，平均提升约 20.96%，而相关工作为 18.78%，进一步提高准确率 0.55%。相比之下，竞争方法通常会降低准确率 0.42%。这些结果确认 FairTTTS 有效地促进了更公平的决策，同时提高了预测性能。
引用
@article{arxiv.2501.08155,
title = {FairTTTS: A Tree Test Time Simulation Method for Fairness-Aware Classification},
author = {Nurit Cohen-Inger and Lior Rokach and Bracha Shapira and Seffi Cohen},
journal= {arXiv preprint arXiv:2501.08155},
year = {2025}
}