用于诊断黑盒模型偏差的迭代正交特征投影
机器学习
2016-11-16 v1 机器学习
摘要
预测模型正日益被部署以决定诸如信贷、保险和就业等服务的获取权限。尽管在生产力与效率方面存在潜在收益，但仍有若干潜在问题尚待解决，尤其是无意歧视的潜在风险。我们提出了一种基于输入属性正交投影的迭代方法，以实现黑盒预测模型的可解释性。通过我们的迭代方法，可以量化黑盒模型对其输入属性的相对依赖性。预测模型输入的相对重要性进而可用于评估此类模型的公平性（或歧视程度）。
引用
@article{arxiv.1611.04967,
title = {Iterative Orthogonal Feature Projection for Diagnosing Bias in Black-Box Models},
author = {Julius Adebayo and Lalana Kagal},
journal= {arXiv preprint arXiv:1611.04967},
year = {2016}
}