提示微调推更远，对比学习拉更近：一种缓解社会偏见的双阶段方法
计算与语言
2023-07-06 v1 人工智能
摘要
随着预训练语言模型(PLMs)表征能力的提升，人们愈发担忧它们会从未经处理的语料中继承社会偏见。以往多数去偏技术使用反事实数据增强(CDA)来平衡训练语料。然而，CDA对原始语料改动轻微，限制了不同人口群体间表征距离的范围。结果，去偏模型容易拟合反事实对之间的差异，在文本资源有限时影响其去偏性能。本文提出一种受对抗训练启发的双阶段去偏模型，使用带连续提示增强的对比学习(称为CCPA)，以缓解PLMs编码中的社会偏见。第一阶段，我们提出基于连续提示微调的数据增强方法，沿不同人口群体推远样本对间的表征距离。第二阶段，我们利用对比学习拉近增强样本对间的表征距离，随后微调PLMs参数以获得去偏编码。我们的方法通过增加训练难度引导模型实现更强的去偏性能。大量实验表明CCPA在去偏性能上优于基线。同时，GLUE基准上的实验结果显示CCPA保留了PLMs的语言建模能力。
引用
@article{arxiv.2307.01595,
title = {Prompt Tuning Pushes Farther, Contrastive Learning Pulls Closer: A Two-Stage Approach to Mitigate Social Biases},
author = {Yingji Li and Mengnan Du and Xin Wang and Ying Wang},
journal= {arXiv preprint arXiv:2307.01595},
year = {2023}
}
备注
has been accepted as ACL2023 main conference long paper