使用情感归一化解决自动化决策中公平性的新方法
计算机与社会
2022-05-03 v1 人工智能
摘要
任何决策，例如关于雇佣谁的决定，都包含两个部分。第一，理性部分，即他们受过良好教育、表达清晰。第二，情感部分，基于诸如种族与性别的视觉特征等可观察量，并可能受刻板印象偏见影响。此处我们提出一种度量情感性、社会偏见性部分的方法，从而使其能够被移除。亦即，给定一决策过程，这些情感度量可移除决策中的情感偏见，使其在由方法自身定义的一组类别上变得公平。因此我们提出，这可解决交叉公平性中的三个关键问题：（1）公平性所考量类别的定义；（2）向越来越小群体的无限倒退；（3）基于基本人权或其他先验信息确保公平分布。本文的核心思想是，公平性偏见可使用情感一致性来度量，并可用于归一化结果映射。我们旨在以这一概念性工作揭示一种处理公平性问题的新方法，其使用情感一致性作为偏见的独立度量，超越了统计奇偶。
引用
@article{arxiv.2205.00819,
title = {A Novel Approach to Fairness in Automated Decision-Making using Affective Normalization},
author = {Jesse Hoey and Gabrielle Chan},
journal= {arXiv preprint arXiv:2205.00819},
year = {2022}
}