将可解释性方法应用于改进 NLP 模型公平性中的挑战
计算与语言
2022-06-09 v1
摘要
可解释人工智能（XAI）方法的动机通常包括检测、量化和缓解偏差，并有助于使机器学习模型更公平。然而，XAI 方法究竟如何帮助对抗偏差往往未被明确说明。在本文中，我们简要回顾 NLP 研究中可解释性与公平性的趋势，梳理当前应用可解释性方法检测和缓解偏差的做法，并探讨阻碍 XAI 方法在解决公平性问题方面更广泛应用的因素。
引用
@article{arxiv.2206.03945,
title = {Challenges in Applying Explainability Methods to Improve the Fairness of NLP Models},
author = {Esma Balkir and Svetlana Kiritchenko and Isar Nejadgholi and Kathleen C. Fraser},
journal= {arXiv preprint arXiv:2206.03945},
year = {2022}
}
备注
TrustNLP Workshop at NAACL 2022