解决表征性预测中的极化问题与公平性
机器学习
2025-11-18 v3 人工智能
计算机与社会
摘要
在诸多实际应用中，机器学习模型会影响其训练的数据，导致预测与数据分布之间的反馈环路。表征性预测（performative prediction, PP）框架通过将数据分布建模为部署模型的函数来捕捉这一现象。虽然 prior 工作聚焦于寻找表征稳定（performative stable, PS）解以实现鲁棒性，但其社会影响，尤其是关于公平性，仍未得到充分探讨。我们表明，PS 解可能导致严重的极化问题和预测绩效差异，此外，先前工作中的常规公平干预因无法满足 PS 准则而在模型依赖的数据分布迁移下往往失败。为此，在 PP 框架下，我们引入新的公平机制，理论上可确保稳定性与公平性，并通过理论分析与实证结果予以验证。
引用
@article{arxiv.2406.16756,
title = {Addressing Polarization and Unfairness in Performative Prediction},
author = {Kun Jin and Tian Xie and Yang Liu and Xueru Zhang},
journal= {arXiv preprint arXiv:2406.16756},
year = {2025}
}