面向低资源刻板印象检测的强化引导多任务学习框架
计算与语言
2022-03-29 v1 人工智能
机器学习
摘要
随着以无监督方式在大量数据上训练的大型预训练语言模型（PLMs）日益普及，识别文本中各类偏见已成为焦点。现有“刻板印象检测”数据集主要采取针对大型 PLMs 的诊断式方法。Blodgett 等人（2021a）指出，现有基准数据集存在显著的可靠性问题。标注可靠数据集需要精准理解刻板印象在文本中呈现的细微差别。本文标注了一组聚焦的“刻板印象检测”评测集，通过解构刻板印象在文本中呈现的多种方式，规避了上述缺陷。此外，我们提出一个多任务模型，利用仇恨言论检测、攻击性语言检测、厌女症检测等数据丰富的邻近任务的 abundance，提升“刻板印象检测”的经验性能。随后，我们提出一个强化学习智能体，通过学习识别邻近任务中对目标任务帮助最大的训练样本，来引导该多任务学习模型。我们表明，所提模型在所有任务上均相较现有基线取得显著经验增益。
引用
@article{arxiv.2203.14349,
title = {Reinforcement Guided Multi-Task Learning Framework for Low-Resource Stereotype Detection},
author = {Rajkumar Pujari and Erik Oveson and Priyanka Kulkarni and Elnaz Nouri},
journal= {arXiv preprint arXiv:2203.14349},
year = {2022}
}
备注
Long paper at ACL 2022 main conference