ToxiTwitch：面向直播平台的表情感知混合审核机制
计算与语言
2026-02-05 v2 社会与信息网络
摘要
Twitch 等直播平台的快速发展给恶意行为的审核带来了复杂挑战。传统审核方法（如人工标注和基于关键词的过滤）已证明其有效性，但 Twitch 上的人工审核员在平台快节奏、高信息量和上下文丰富的聊天环境中始终难以有效扩展，同时还面临自身受骚扰的问题。大语言模型（LLM）的最新进展（如 DeepSeek-R1-Distill 和 Llama-3-8B-Instruct）为恶意检测提供了新机遇，尤其是在理解涉及表情符号的细微多模态通信方面。在本研究中，我们对针对 Twitch 定制的恶意检测方法进行了探索性比较。我们的分析表明，引入表情符号可改善对恶意行为的检测。为此，我们提出了 ToxiTwitch，这是一种将 LLM 生成的文本与表情嵌入与随机森林和 SVM 等传统机器学习分类器相结合的混合模型。在我们的案例研究中，所提出的混合方法在特定频道训练下准确率高达 80%（较 BERT 提升 13%，F1 分数为 76%）。本研究是一项探索性研究，旨在揭示 Twitch 上表情感知恶意检测的挑战与局限性。
引用
@article{arxiv.2601.15605,
title = {ToxiTwitch: Toward Emote-Aware Hybrid Moderation for Live Streaming Platforms},
author = {Baktash Ansari and Elias Martin and Afra Mashhadi},
journal= {arXiv preprint arXiv:2601.15605},
year = {2026}
}
备注
Exploratory study; prior versions submitted to peer review