利用质量-多样性优化理解分类器偏差中的权衡：应用于人才管理
神经与进化计算
2025-05-19 v2
摘要
公平性（即对个体或群体在其固有或获得特征无条件下的公正对待）[20]，是人工智能在多个领域如金融、人力资本和住房中成功实施的关键挑战。公平 AI 模型开发的主要困境在于训练此类模型时可用数据中潜在的偏差。训练前对数据集进行过滤或抽样可帮助缓解模型偏差，但也可能降低模型性能，且偏差影响往往难以察觉。本文提出了一种用于可视化数据集中固有偏差并理解公平性与准确性之间潜在权衡的方法。该方法基于质量-多样性优化，具体采用协方差矩阵适应多维精英档案库（MAP-Elites）。该方法提供了模型偏差的可视化表征，允许用户识别在公平性最小阈值内的模型，并确定公平性与准确性之间的权衡。
关键词
引用
@article{arxiv.2411.16965,
title = {Understanding trade-offs in classifier bias with quality-diversity optimization: an application to talent management},
author = {Catalina M Jaramillo and Paul Squires and Julian Togelius},
journal= {arXiv preprint arXiv:2411.16965},
year = {2025}
}
备注
Jaramillo, C.M., Squires, P., Togelius, J. (2025). Understanding Trade-Offs in Classifier Bias with Quality-Diversity Optimization: An Application to Talent Management. In: Garc\'ia-S\'anchez, P., Hart, E., Thomson, S.L. (eds) Applications of Evolutionary Computation. EvoApplications 2025. Lecture Notes in Computer Science, vol 15612. Springer, Cham. https://doi.org/10.1007/978-3-031-90062-4_15