自然语言处理中的公平性：从传统方法到可解释性

自然语言处理（NLP）领域正站在一个临界节点，需要在其框架中集成公平性。本博士论文 addresses 对 NLP 系统在公平性和透明性方面的需求，认识到 NLP 的公平性不仅仅是技术挑战，而是道德和伦理的必然要求，需要严格检视这些技术如何与不同人口群体交互并产生影响。通过这一视角，该论文对开发平等的 NLP 方法以及检验当前系统中存在的偏见进行了彻底的调查。首先，它引入一种创新的算法来缓解多类分类器中的偏见，专为高风险的 NLP 应用而设计， 在偏差缓解和预测准确度方面均超越了传统方法。然后，对 Bios 数据集的分析揭示了数据规模对歧视性偏见以及标准公平性指标的局限性的影响。这种意识促使我们探索可解释人工智能领域，以获得更完整的偏见理解，其中传统指标受限。因此，论文提出了 COCKATIEL，一种面向 Transformer 模型的模型无关的可解释性方法，用于识别和排序 Transformer 模型中的概念，在情感分析任务中超越了以前的方法。最后，论文通过引入 TaCo 方法来中和 Transformer 模型嵌入中的偏见，弥合了公平性和可解释性之间的差距。总之，本论文构成了一项重要的跨学科努力，将可解释性和公平性交织在一起，以挑战和重塑当前的 NLP 范式。所提出的方法和批评为关于机器学习中公平性的 ongoing 对话提供了可操作的解决方案，以实现更公平和负责任的人工智能系统。