视觉聚类中的公平性:一种新颖的 Transformer 聚类方法
计算机视觉与模式识别
2023-09-19 v2 机器学习
摘要
在无监督聚类设置中促进深度聚类模型的公平性以减少人口统计偏差是一个具有挑战性的目标。这是因为带有敏感或受保护属性的良标注大规模平衡数据存在局限。本文首先从聚类纯度的角度评估深度聚类模型中的人口统计偏差,该纯度由簇内正样本与其相关度的比值衡量。该度量被用作人口统计偏差的指示。随后,引入一种新颖的损失函数以鼓励所有聚类的纯度一致性,从而保持所学聚类模型的公平性方面。此外,我们提出一种新颖的注意力机制——交叉注意力 (Cross-attention),用于度量多个聚类间的相关性,在学习过程中增强远距离正样本并改善聚类纯度。在具有众多属性设置的大规模数据集上的实验结果证明了所提方法在聚类准确率和多个敏感属性公平性增强上的有效性。
引用
@article{arxiv.2304.07408,
title = {Fairness in Visual Clustering: A Novel Transformer Clustering Approach},
author = {Xuan-Bac Nguyen and Chi Nhan Duong and Marios Savvides and Kaushik Roy and Hugh Churchill and Khoa Luu},
journal= {arXiv preprint arXiv:2304.07408},
year = {2023}
}