MisgenderMender：一种基于社区信息的错误性别称谓干预方法

内容警告：本文包含可能具有冒犯性并可能引发不适的错误性别称谓和性别抹除示例。错误性别称谓（即错误称呼他人性别的行为）会造成严重伤害，并在日常技术中普遍存在，然而目前缺乏相关研究来应对这一问题。我们率先针对错误性别称谓干预研究的缺失，对美国性别多元化人群进行了调查，以了解他们对基于文本的错误性别称谓自动化干预的看法。基于调查中关于错误性别称谓普遍性、期望解决方案及相关担忧的见解，我们引入了错误性别称谓干预任务和评估数据集 MisgenderMender。我们将该任务定义为两个子任务： 检测错误性别称谓； 在适合编辑的领域中纠正存在的错误性别称谓。MisgenderMender 包含 3790 个关于非顺性别公众人物的社交媒体内容和 LLM 生成文本实例，标注了是否存在错误性别称谓，并对 LLM 生成文本中的错误性别称谓纠正进行了额外标注。利用该数据集，我们通过评估现有 NLP 系统设定了初始基准，并突出了未来模型需要应对的挑战。我们在 https://tamannahossainkay.github.io/misgendermender/ 发布了完整数据集、代码和演示。