SynthDetoxM：现代大语言模型的少样本并行去毒数据标注者
计算与语言
2025-08-18 v1
摘要
现有的多语言文本去毒方法受限于平行多语言数据集的稀缺。在本工作中，我们提出了一种多语言平行去毒数据生成管道。我们引入SynthDetoxM，一个手动收集和人工生成的多语言平行文本去毒数据集，覆盖德、法、西、俄四种语言，包含16,000组高质量去毒句对。该数据来源于不同的毒性评估数据集，然后通过在零样本设置下使用九个现代开源大语言模型进行重写。我们的实验表明，在数据有限的情况下，基于所生成合成数据集训练的模型在性能上优于基于人工标注的MultiParaDetox数据集训练的模型。训练SynthDetoxM的模型在零样本设置下超越了所有评估的大语言模型。我们发布了数据集和代码，以帮助进一步研究多语言文本去毒。
引用
@article{arxiv.2502.06394,
title = {SynthDetoxM: Modern LLMs are Few-Shot Parallel Detoxification Data Annotators},
author = {Daniil Moskovskiy and Nikita Sushko and Sergey Pletenev and Elena Tutubalina and Alexander Panchenko},
journal= {arXiv preprint arXiv:2502.06394},
year = {2025}
}
备注
Accepted to NAACL 2025 Main Conference