因果路径与子群组差异分析的实用指南
计算机与社会
2024-08-08 v3 机器学习
统计方法学
摘要
在本研究中，我们介绍了将因果差异分析应用于揭示观察数据中敏感属性与目标结果之间复杂关系及因果路径的方法。我们的 methodology 包括采用因果分解分析来量化和检验敏感属性与结果之间的因果相互作用。我们还强调在因果差异分析中集成异质性评估的重要性，以获得对特定子群组中敏感属性对结果影响的更深入见解。我们的两步调查聚焦于种族作为敏感属性的数据集。两个数据集的结果表明，仅凭因果分析和异质性评估的优势不仅在于量化数据中的偏差，还在于解构这些偏差的影响。我们展示了本方法识别的子群组中，对差异影响最大的正是那些在 ML 分类错误中最大化的子群组。我们还表明，仅基于敏感属性对数据进行分组并不足够，通过这些分析，我们可以发现直接受到差异影响的子群组。我们希望这些发现能够鼓励在未来的伦理 AI 实践和偏差审计中采用此类方法，营造更公平、更公正的技术生态。
引用
@article{arxiv.2407.02702,
title = {Practical Guide for Causal Pathways and Sub-group Disparity Analysis},
author = {Farnaz Kohankhaki and Shaina Raza and Oluwanifemi Bamgbose and Deval Pandya and Elham Dolatabadi},
journal= {arXiv preprint arXiv:2407.02702},
year = {2024}
}