多人游戏中的情境感知有害检测：集成领域自适应预训练和比赛元数据
计算与语言
2025-04-03 v1
摘要
竞争性在线视频游戏中的有害行为效应广为人知，促使发行商监控玩家聊天对话。这一问题具有挑战性，因为有害行为往往是多条消息之间或由非文本交互所影响的情境依赖性结果。传统的有害检测器侧重于孤立的消息，忽略了准确监管所需的更广泛情境。尤其在视频游戏中，交互涉及专用术语、缩写和拼写错误，这使得标准模型难以检测有害行为，尤其考虑到有害行为的稀有性。我们针对视频游戏领域调整了 RoBERTa LLM 以支持监管，集成了文本和非文本情境。通过增强预训练嵌入以整合元数据，并通过领域自适应预训练来解决专用术语和语言特性，我们的方法更好地捕捉了玩家交互的细微差别。我们使用来自《Defense of the Ancients 2 (DOTA 2)》和《Call of Duty: Modern WarfareIII (MWIII)》的两个游戏数据集，展示了哪些情境来源（元数据、先前交互等）最有用，如何充分利用它们来提升性能，以及何种条件最有利于实现此目标。这一工作凸显了面向主动监管的情境感知和领域特定方法的重要性。
引用
@article{arxiv.2504.01534,
title = {Context-Aware Toxicity Detection in Multiplayer Games: Integrating Domain-Adaptive Pretraining and Match Metadata},
author = {Adrien Schurger-Foy and Rafal Dariusz Kocielnik and Caglar Gulcehre and R. Michael Alvarez},
journal= {arXiv preprint arXiv:2504.01534},
year = {2025}
}