用于识别机器学习模型中脆弱群体的可解释性
机器学习
2022-09-07 v2 计算机与社会
摘要
如果一个预测模型识别出脆弱的个体或群体，那么使用该模型可能会成为一个伦理问题。但我们能知道模型是否在这样做吗？机器学习公平性作为一个领域，关注的是在使用机器学习方法进行信息处理时，对个体和群体的公正对待。虽然相当多的注意力被给予了减轻对受保护群体的歧视，但脆弱群体并未获得同样的关注。与可被视为始终脆弱的受保护群体不同，一个脆弱群体可能在一种情境下脆弱，而在另一种情境下不脆弱。这给如何以及何时在机器学习下保护脆弱的个体和群体带来了新的挑战。相比之下，可解释人工智能（XAI）的方法确实考虑了更多情境性问题，并致力于回答“为什么做出这个决定？”这一问题。现有的公平性方法和现有的可解释性方法都无法让我们确定一个预测模型是否识别了脆弱性。我们讨论了这个问题，并提出了在这方面分析预测模型的方法。
引用
@article{arxiv.2203.00317,
title = {Explainability for identification of vulnerable groups in machine learning models},
author = {Inga Strümke and Marija Slavkovik},
journal= {arXiv preprint arXiv:2203.00317},
year = {2022}
}
备注
The statements about existing methods are outdated and the authors are still working on updating the text