公平性与追索权中反事实推理的新范式
人工智能
2024-01-26 v1 计算机与社会
机器学习
摘要
反事实与反事实推理是审计和理解人工智能（AI）系统众多技术的基础。该领域文献中反事实推理的传统范式是干预性反事实，即设想并模拟假设性干预。因此，在人工智能中关于法律保护和人口统计数据的因果推理，其出发点是对受法律保护的特征（如民族、种族、性别、残疾、年龄等）进行假设性干预。例如，我们会问，如果你的种族不同，会发生什么？这种范式的一个固有局限是，某些人口统计干预——例如对种族的干预——可能无法转化为干预性反事实的形式化表述。在这项工作中，我们探索了一种基于回溯反事实的新范式，即我们不设想对受法律保护的特征进行假设性干预，而是在保持这些特征不变的情况下，设想不同的初始条件。我们转而询问，对于你实际是或可能成为的样子，什么能够解释一个反事实的结果？这种替代框架使我们能够处理许多相同的社会关切，但通过提出不依赖于人口统计干预的根本不同的问题来实现。
引用
@article{arxiv.2401.13935,
title = {A New Paradigm for Counterfactual Reasoning in Fairness and Recourse},
author = {Lucius E. J. Bynum and Joshua R. Loftus and Julia Stoyanovich},
journal= {arXiv preprint arXiv:2401.13935},
year = {2024}
}