面向样本高效的自锚注意模型用于善意文本聊天分类
计算与语言
2025-06-12 v1 人工智能
计算机与社会
摘要
数百万玩家每日参与竞技型在线游戏，通过游戏内聊天进行交流。先前研究聚焦于使用各种自然语言处理 (NLP) 技术检测相对较小量的有毒内容以进行内容 moderation。然而，近期研究强调识别善意沟通的重要性，这在识别有毒互动方面同样关键。识别善意行为有助于其分析、奖励和推广。与有毒行为相比，针对善意行为的受限数据集、模型和资源稀缺。本文采用无监督发现结合游戏领域专家合作的方法，识别并分类游戏聊天中的善意玩家行为。我们进一步提出一种新型自锚注意模型 (SAAM)，其性能比现有最佳技术提高了7.9%。该方法将整个训练集作为“锚点”，有助于在训练数据稀缺的情况下提高模型性能。该方法推动了第一个自动化系统，用于在游戏聊天中分类善意行为，特别是在缺乏大规模标记数据的低资源环境下。我们的 methodology应用于最流行的在线游戏之一——《使命召唤R》：Modern WarfareRII，展示了其有效性。该研究在玩家游戏内聊天交流中发现和分类善意行为的NLP技术应用方面具有新颖性，有助于将内容 moderation的重点从仅惩罚有毒内容转向积极鼓励积极互动。
引用
@article{arxiv.2506.09259,
title = {Self-Anchored Attention Model for Sample-Efficient Classification of Prosocial Text Chat},
author = {Zhuofang Li and Rafal Kocielnik and Fereshteh Soltani and Penphob and Boonyarungsrit and Animashree Anandkumar and R. Michael Alvarez},
journal= {arXiv preprint arXiv:2506.09259},
year = {2025}
}