基于公平性引导的SMT决策树与随机森林修正
机器学习
2020-11-24 v1
摘要
随着各种机器学习模型的普及，数据驱动的决策制定正日益受到重视。遗憾的是，机器学习训练中所用的现实数据可能捕捉到人类偏见，因此学到的模型可能导致不公平的决策。本文针对决策树和随机森林的这一问题提供解决方案。我们的方法将任意决策树或随机森林针对特定数据集、公平性准则和敏感属性转换为公平的模型。基于我们的方法构建的\emph{FairRepair}工具，其灵感来自传统程序的自动化程序修复技术。它使用SMT求解器来决定决策树中哪些路径的结果可被翻转以改善模型的公平性。我们在UC Irvine的知名adult数据集上的实验表明，FairRepair可扩展到现实规模的决策树和随机森林。此外，FairRepair对找到修复的可靠性和完备性提供形式化保证。由于我们的公平性引导修复技术修复的是从给定（不公平）数据集获得的决策树和随机森林，它可帮助识别并纠正组织内决策中的偏见。
引用
@article{arxiv.2011.11001,
title = {Fairness-guided SMT-based Rectification of Decision Trees and Random Forests},
author = {Jiang Zhang and Ivan Beschastnikh and Sergey Mechtaev and Abhik Roychoudhury},
journal= {arXiv preprint arXiv:2011.11001},
year = {2020}
}