人口属性稀缺机制下的公平性

大多数现有的公平性研究假设模型可完全获取人口属性信息。然而，由于数据采集过程中未全程记录或出于隐私原因，存在人口属性信息仅部分可用的场景。该设定被称为人口属性稀缺机制。先前研究表明，训练属性分类器来替代缺失的敏感属性（代理属性）仍可改善公平性。但相较于真实敏感属性，使用代理敏感属性会恶化公平性与准确率的权衡。为应对此局限，我们提出了一种构建属性分类器的框架，以获得更优的公平性-准确率权衡。我们的方法在属性分类器中引入不确定性感知，并对以最低不确定性推断所得人口属性信息的样本施加公平性约束。我们通过实证表明，对具有不确定敏感属性的样本施加公平性约束会对公平性-准确率权衡产生负面影响。我们在五个数据集上的实验表明，所提框架得到的模型比经典属性分类器具有显著更优的公平性-准确率权衡。令人惊讶的是，我们的框架在大多数基准上甚至优于使用真实敏感属性施加公平性约束训练的模型。我们还表明这些发现与其他不确定性度量（如保形预测）一致。