基于最优传输的公平性可解释性及其在图像分类中的应用
计算机视觉与模式识别
2023-11-01 v2 机器学习
应用统计
摘要
确保人工智能系统的信任与问责要求其结果具有可解释性。尽管可解释 AI 已取得显著进展，人类偏见仍污染了相当部分的训练数据，引发关于不公平或歧视性倾向的担忧。算法公平领域的当前方法聚焦于缓解模型结果中的此类偏见，但极少尝试解释模型\emph{为何}存在偏见。为弥合两领域间的鸿沟，我们提出一种综合方法，利用最优传输理论揭示机器学习应用（尤其侧重图像分类）中歧视的成因。我们利用 Wasserstein 重心实现公平预测，并引入一种扩展以精确定位与偏见相关的区域。这使我们能推导出一个内聚系统，利用所施行的公平性来衡量各特征对偏见的\emph{影响}。借助这种施行与解释公平性的相互作用，我们的方法对开发可信且无偏的 AI 系统具有重要意义，可在跨领域的 critical 决策场景中促进透明性、问责制与公平性。
引用
@article{arxiv.2308.11090,
title = {Fairness Explainability using Optimal Transport with Applications in Image Classification},
author = {Philipp Ratz and François Hu and Arthur Charpentier},
journal= {arXiv preprint arXiv:2308.11090},
year = {2023}
}