学习偏置何时等价？面向公平性、鲁棒性和分布迁移的统一框架
机器学习
2025-11-12 v1 人工智能
机器学习
摘要
机器学习系统呈现出多样化的失败模式：对受保护群体的不公平，脆弱性针对虚假关联，表现差于少数子人口等，这些问题通常由不同的研究社区孤立地加以研究。我们提出一个统一的理论框架，用以刻画不同偏置机制对模型性能产生量化等效效应的条件。通过将偏置形式化为通过信息论度量衡的条件独立违反，我们证明了关于虚假关联、子人口迁移、类别不平衡和公平性违反的形式等价条件。我们的理论预测，强度为的虚假关联在特征重叠假设下，产生与子人口不平衡比例相当的最差群体准确率降低。经验验证在六个数据集和三个架构上表明，预测的等效性在最差群体准确率3%的精度内成立，使我们能够在问题领域之间原则性地传递去偏方法。这一工作在常见视角下连接了公平性、鲁棒性和分布迁移的文献。
引用
@article{arxiv.2511.07485,
title = {When Are Learning Biases Equivalent? A Unifying Framework for Fairness, Robustness, and Distribution Shift},
author = {Sushant Mehta},
journal= {arXiv preprint arXiv:2511.07485},
year = {2025}
}