PowerTransformer：用于偏见语言纠正的无监督可控改写
计算与语言
2020-10-28 v1 人工智能
摘要
无意识偏见在现代文本与媒体中依然普遍，亟需能够辅助写作者进行偏见纠正的算法。例如，故事中的女性角色常被刻画为被动且无力的（“她幻想成为医生”），而男性则被刻画为更主动且有力的（“他追求成为医生的梦想”）。我们提出*可控去偏*这一新的改写任务，旨在重写给定文本以纠正角色刻画中隐含且可能不合意的偏见。随后我们引入 PowerTransformer 作为一种通过内涵框架（Sap 等，2017）视角去偏文本的方法，该框架编码了关于动词谓词隐含权力关系的语用知识。我们任务的一个关键挑战是缺乏平行语料。为应对该挑战，我们采用无监督方法，利用释义等相关任务的辅助监督以及基于重构损失的自监督，并构建于预训练语言模型之上。通过基于自动与人工评估的综合实验，我们证明该方法优于相关任务的消融实验与现有方法。此外，我们展示了 PowerTransformer 作为缓解电影剧本中已有文献记载的性别偏见刻画问题的一步。
引用
@article{arxiv.2010.13816,
title = {PowerTransformer: Unsupervised Controllable Revision for Biased Language Correction},
author = {Xinyao Ma and Maarten Sap and Hannah Rashkin and Yejin Choi},
journal= {arXiv preprint arXiv:2010.13816},
year = {2020}
}
备注
EMNLP 2020