CO-STAR:用于分析与推理的刻板印象概念化框架

警告:本文包含可能引起不适或反感的材料。尽管近期大量工作聚焦于仇恨言论和明显攻击性内容的检测,极少研究探索以隐含刻板印象形式存在的更微妙但同样有害的语言。这是一个具有挑战性的领域,更因人类往往难以理解和推理刻板印象而更具难度。我们基于已有文献,提出CO-STAR(COnceptualisation of STereotypes for Analysis and Reasoning,用于分析与推理的刻板印象概念化),一个对隐含刻板印象的底层概念进行编码的新颖框架。我们还引入了CO-STAR训练数据集,其中包含略多于12K条隐含刻板印象及刻板印象概念化的结构化标注,并在训练与人工评估后取得了最先进(state-of-the-art)的结果。然而,CO-STAR模型在理解更复杂和措辞微妙的刻板印象方面能力有限,我们的研究为未来开发具有更精细常识知识编码方法的模型提供了动机。