中文

统一游戏审查:软提示与 LLM 辅助标签迁移的资源高效毒性检测

计算与语言 2025-06-10 v1 人工智能

摘要

游戏社区中的毒性检测在跨游戏和跨语言扩展时面临显著的扩张挑战,尤其是在计算效率至关重要的实时环境中。我们提出两个关键发现以解决这些挑战,同时基于我们之前的 ToxBuster 项目进行构建。首先,我们引入一种软提示方法,使单个模型能够通过纳入游戏情境 token 来有效处理多个游戏,性能与更复杂方法(如课程学习)相当,同时具有更好的可扩展性。其次,我们开发了基于 GPT-4o-mini 的 LLM 辅助标签迁移框架,以扩展对七种额外语言的支持。针对法语、德语、葡萄牙语和俄语等真实游戏聊天数据的评估显示,宏平均 F1 分数范围为 32.96% 至 58.88%,其中德语表现尤为突出,超过英语基准的 45.39%。在实际部署中,该统一方法显著减少了计算资源和维护开销,相较于为每个游戏和语言组合维护独立模型具有更大的优势。在 Ubisoft,此模型成功识别了每款游戏每天平均 50 名参与违规行为的玩家。

关键词

引用

@article{arxiv.2506.06347,
  title  = {Unified Game Moderation: Soft-Prompting and LLM-Assisted Label Transfer for Resource-Efficient Toxicity Detection},
  author = {Zachary Yang and Domenico Tullo and Reihaneh Rabbany},
  journal= {arXiv preprint arXiv:2506.06347},
  year   = {2025}
}

备注

11 pages, 1 figure, 9 Tables, KDD 2025 ADS Track