交叉不公平性发现

人工智能系统已被证明对某些人口子群体产生不公平的结果，这凸显了理解特定敏感属性上偏见的必要性。当前的研究往往不足，主要关注单一敏感属性所刻画的子群体，而忽略了多个敏感属性的交叉公平性本质。本文聚焦于其一个基本方面，即发现交叉敏感属性下的多样化高偏差子群体。具体来说，我们提出了一种偏差引导生成网络（BGGN）。通过将每个偏差值视为奖励，BGGN高效地生成高偏差的交叉敏感属性。在真实文本和图像数据集上的实验证明了BGGN的多样性和高效性。为了进一步评估生成的未见但可能的不公平交叉敏感属性，我们将其表述为提示，并使用现代生成式AI生成新的文本和图像。频繁生成有偏数据的结果为发现流行的现代生成式AI系统中的潜在不公平性提供了新的见解。警告：本文包含具有冒犯性质的生成示例。