微调预训练语言模型以检测游戏内垃圾话
计算与语言
2024-03-28 v1 机器学习
摘要
在线手机和电脑游戏中的常见问题与玩家之间的不良行为和辱骂性交流有关。基于不同的报告和研究，本研究还讨论了在线仇恨言论和毒性对玩家游戏表现及整体幸福感的影响。本研究探究了预训练语言模型分类或检测游戏内垃圾话或毒性信息的能力。研究采用并评估了预训练BERT和GPT语言模型在检测游戏内聊天毒性方面的性能。利用公开可用的API，收集了DOTA 2游戏比赛中的游戏内聊天数据，经过处理、审查并标记为无毒、轻度（毒性）和有毒。本研究成功收集了约两千条游戏内聊天记录，用于训练和测试BERT（Base-uncased）、BERT（Large-uncased）和GPT-3模型。基于这三个模型的最优性能，本研究得出结论：预训练语言模型在应对在线仇恨言论和游戏内侮辱性垃圾话方面具有巨大潜力。
引用
@article{arxiv.2403.15458,
title = {Fine-Tuning Pre-trained Language Models to Detect In-Game Trash Talks},
author = {Daniel Fesalbon and Arvin De La Cruz and Marvin Mallari and Nelson Rodelas},
journal= {arXiv preprint arXiv:2403.15458},
year = {2024}
}