对抗有毒语言：基于大语言模型的软件工程策略综述
机器学习
2026-01-21 v2 软件工程
摘要
大语言模型 (LLM) 已成为软件工程 (SE) 中的核心组成部分，越来越多地被用于开发工作流程中。然而，其广泛采用引发了关于有毒语言存在及其传播的担忧——这种有害或冒犯性内容可能营造排斥性环境。本文提供了近年来 (2020-2024) 在有毒语言检测与缓解方面的研究综述，重点关注 SE 特定数据集和通用数据集。我们审查了注释与预处理技术，评估了检测方法，并评估了特别是利用 LLM 的缓解策略。此外，我们进行了一个消融研究，表明 LLM-based 的重写在减少有毒性方面有效。本综述局限于限定时间范围内及限定于 LLM 与 SE 领域有毒性研究的文献；因此，某些超出此时间范围或领域的新兴方法或数据集可能不在其范围之内。通过综合现有工作并识别开放挑战，本综述突出了未来研究的关键领域，以确保 LLM 在 SE 及更广泛领域的负责任部署。
引用
@article{arxiv.2504.15439,
title = {Combating Toxic Language: A Review of LLM-Based Strategies for Software Engineering},
author = {Hao Zhuo and Yicheng Yang and Kewen Peng},
journal= {arXiv preprint arXiv:2504.15439},
year = {2026}
}