论自然语言处理中毒性的定义
计算与语言
2023-10-23 v3 人工智能
机器学习
摘要
毒性检测任务的根本问题在于毒性定义不清。这导致我们在模型训练中依赖主观且模糊的数据，从而产生非鲁棒且不准确的结果：垃圾进——垃圾出。本工作提出一种基于压力水平的新毒性定义，旨在客观且具备上下文感知能力。与此同时，我们还描述了将该新定义应用于数据集创建与模型训练的可能方式。
引用
@article{arxiv.2310.02357,
title = {On the definition of toxicity in NLP},
author = {Sergey Berezin and Reza Farahbakhsh and Noel Crespi},
journal= {arXiv preprint arXiv:2310.02357},
year = {2023}
}