逻辑对抗偏见:文本蕴含缓解刻板化句子推理
计算与语言
2023-03-13 v1 人工智能
计算机与社会
摘要
由于其基于相似度的学习目标,预训练句子编码器常将反映其训练语料中存在的社交偏见的刻板化假设内化。本文描述了流行句子表示模型(包括预训练下一句预测与对比句子表示模型)中存在的关于不同群体的若干类刻板印象。我们将此类模型与为多种下游语言理解任务学习语言逻辑的文本蕴含模型进行比较。通过比较基于文本相似度的强预训练模型与文本蕴含学习,我们得出结论:无需显式去偏过程,文本蕴含的显式逻辑学习即可显著减少偏见并改进对社会群体的识别。
引用
@article{arxiv.2303.05670,
title = {Logic Against Bias: Textual Entailment Mitigates Stereotypical Sentence Reasoning},
author = {Hongyin Luo and James Glass},
journal= {arXiv preprint arXiv:2303.05670},
year = {2023}
}
备注
Accepted by EACL 2023