监督学习模型的个体不公平性识别、度量与缓解及其在信用风险模型中的应用
机器学习
2022-11-14 v1 人工智能
计算机与社会
摘要
在过去几年中，人工智能（AI）已引起包括金融服务（FS）在内的各行业的关注。AI通过提高生产率和改善风险管理对金融服务产生了积极影响。虽然AI可提供高效解决方案，但也可能带来意想不到的后果。其中之一便是AI相关不公平性及其伴随的公平性危害的显著影响。这些公平性危害可能涉及对个体的差别对待；例如，不公平地拒绝向某些个人或群体发放贷款。在本文中，我们聚焦于识别并缓解个体不公平性，并利用该领域近期发表的一些技术，特别是适用于信用裁决用例的技术。我们还研究了实现个体公平性的技术在多大程度上能有效实现群体公平性。我们这项工作的主要贡献是构建了一个两步训练过程，其涉及利用一小部分原始数据从群体意义上学习公平相似性度量，并使用其余排除敏感特征的数据训练个体“公平”分类器。该两步技术的关键特征在于其灵活性，即第一步获得的公平度量可与第二步中任何其他个体公平性算法配合使用。此外，我们开发了第二种度量（不同于公平相似性度量）以确定模型对相似个体的处理公平程度。我们使用该度量在个体公平性值方面将“公平”模型与其基线模型进行比较。最后，给出了与个体不公平性缓解技术相关的一些实验结果。
引用
@article{arxiv.2211.06106,
title = {Identifying, measuring, and mitigating individual unfairness for supervised learning models and application to credit risk models},
author = {Rasoul Shahsavarifar and Jithu Chandran and Mario Inchiosa and Amit Deshpande and Mario Schlener and Vishal Gossain and Yara Elias and Vinaya Murali},
journal= {arXiv preprint arXiv:2211.06106},
year = {2022}
}
备注
12 pages, 3 figures