游戏聊天中的高效毒性检测:嵌入、微调 Transformer 与 LLM 的对比研究
计算与语言
2025-10-22 v1 人工智能
摘要
本文对用于在线游戏聊天中自动化毒性检测的自然语言处理(NLP)方法进行了全面的对比分析。我们评估了基于嵌入的传统机器学习模型、采用零样本与少样本提示的大语言模型(LLMs)、微调的 Transformer 模型,以及检索增强生成(RAG)方法。评估框架从三个关键维度展开:分类准确率、处理速度与计算成本。我们提出了一种混合审核系统架构,通过自动化检测优化人工审核员的工作负载,并融入持续学习机制。实验结果表明,不同方法之间存在显著的性能差异,其中微调的 DistilBERT 实现了最佳的准确率-成本权衡。本研究的发现为在动态在线游戏环境中部署经济高效的内容审核系统提供了实证依据。
引用
@article{arxiv.2510.17924,
title = {Efficient Toxicity Detection in Gaming Chats: A Comparative Study of Embeddings, Fine-Tuned Transformers and LLMs},
author = {Yehor Tereshchenko and Mika Hämäläinen},
journal= {arXiv preprint arXiv:2510.17924},
year = {2025}
}
备注
Published in the Journal of Data Mining & Digital Humanities (JDMDH), special issue NLP4DH