面向合理决策的公平性感知摘要
人工智能
2022-02-11 v2 计算与语言
计算机与社会
摘要
在累犯预测、设施检查和福利分配等后果性领域中,个体了解模型预测的决策相关信息十分重要。此外,预测就结果及结果的合理性而言都应是公平的。换言之,决策相关特征应为预测结果提供充分信息,且应独立于个体在受保护群体(如种族和性别)中的归属。本工作中,我们关注基于文本的神经模型在合理性中的(不)公平问题。我们将模型的解释力与结果公平性相联系,并提出一种公平性感知摘要机制以检测并抵消此类模型中的偏差。给定对某一决策的潜在有偏自然语言解释,我们使用多任务神经模型与基于积分梯度的归因机制,以摘要形式提取高效用、低偏差的合理性依据。所提取摘要随后用于训练模型以对个体做决策。在多个真实世界数据集上的结果表明,我们的方法在大幅限制输入中的人口统计泄露(合理性公平)的同时,适度增强了结果公平性。我们的模型还能有效检测并抵消多种合成种族编码推理或无关合理性的数据投毒攻击。
引用
@article{arxiv.2107.06243,
title = {Fairness-aware Summarization for Justified Decision-Making},
author = {Moniba Keymanesh and Tanya Berger-Wolf and Micha Elsner and Srinivasan Parthasarathy},
journal= {arXiv preprint arXiv:2107.06243},
year = {2022}
}
备注
22 pages, 9 figures