金融服务中公平机器学习的隐性技术债

机器学习（ML）近期的进展已展现出在短期内构建复杂预测系统的强大潜力。然而，在金融科技（Fintech）等高度监管行业中，人们担忧ML系统歧视特定受保护群体或个体的风险。为应对这些担忧，研究者引入了多种数学公平性度量与偏差缓解算法。本文讨论在Fintech生产环境中构建公平ML系统的隐性技术债与挑战。我们探究ML系统开发与部署生命周期中需要关注公平性的各个阶段。为识别Fintech公平ML系统构建中存在的隐性技术债，我们聚焦于关键流水线阶段，包括数据准备、模型开发、系统监控与生产集成。我们的分析表明，在Fintech中为生产就绪的ML系统施行公平性需要在ML系统生命周期的不同阶段作出特定的工程投入。我们还提出了若干初步起点，以缓解这些技术债，从而在生产中部署公平的ML系统。