面向游戏内聊天上下文实时毒性检测的探索
计算与语言
2024-08-22 v1 人工智能
机器学习
摘要
由于社交媒体和游戏平台的日益普及，在线环境中的实时毒性检测构成了重大挑战。我们介绍了 ToxBuster，一种简单且可扩展的模型，它通过纳入聊天历史和元数据，可靠地实时检测一行聊天中的有毒内容。ToxBuster 在包括《彩虹六号围攻》《荣耀战魂》和《DOTA 2》在内的流行多人游戏中持续优于传统毒性模型。我们进行消融研究以评估各模型组件的重要性，并探索 ToxBuster 跨数据集的可迁移性。此外，我们展示了 ToxBuster 在游戏后审核中的效能，以 90.0% 的精度成功标记了 82.1% 被聊天举报的玩家。另外，我们展示了如何主动审核额外 6% 未被举报的有毒玩家。
引用
@article{arxiv.2310.18330,
title = {Towards Detecting Contextual Real-Time Toxicity for In-Game Chat},
author = {Zachary Yang and Nicolas Grenan-Godbout and Reihaneh Rabbany},
journal= {arXiv preprint arXiv:2310.18330},
year = {2024}
}
备注
9 pages, 4 figures, 13 tables. arXiv admin note: text overlap with arXiv:2305.12542