OffensiveLang：基于社区的隐式攻击性语言数据集
计算与语言
2024-12-17 v8
摘要
社交媒体上仇恨语言的广泛存在对社会福祉产生了不利影响。因此，优先解决这个问题变得非常重要。仇恨言论或攻击性语言以显式和隐式形式存在，后者更难检测。当前该领域的研究面临若干挑战。首先，现有数据集主要依赖于收集包含显式攻击性关键词的文本，这使得捕捉缺乏这些关键词的隐式攻击性内容变得困难。其次，常见方法往往只关注文本分析，忽视了社区信息可以提供的有价值见解。在本研究论文中，我们介绍了一个新颖的数据集OffensiveLang，这是一个由ChatGPT 3.5生成的基于社区的隐式攻击性语言数据集，包含38个不同目标群体的数据。尽管由于伦理约束，使用ChatGPT生成攻击性文本存在局限性，但我们提出了一种基于提示的方法，可以有效生成隐式攻击性语言。为确保数据质量，我们使用人工评估数据集。此外，我们采用基于提示的零样本方法与ChatGPT，并比较了人工标注和ChatGPT标注的检测结果。我们利用现有最先进的模型来评估它们在检测此类语言方面的有效性。数据集可在此处获取：https://github.com/AmitDasRup123/OffensiveLang。
引用
@article{arxiv.2403.02472,
title = {OffensiveLang: A Community Based Implicit Offensive Language Dataset},
author = {Amit Das and Mostafa Rahgouy and Dongji Feng and Zheng Zhang and Tathagata Bhattacharya and Nilanjana Raychawdhary and Fatemeh Jamshidi and Vinija Jain and Aman Chadha and Mary Sandage and Lauramarie Pope and Gerry Dozier and Cheryl Seals},
journal= {arXiv preprint arXiv:2403.02472},
year = {2024}
}