基于模糊理论的句子编码在 grooming 风险分类中的评估

随着社交媒体的兴起，儿童在线环境中遭受 grooming 风险的可能性日益增加。检测线上对话中的 grooming 实例面临着重大挑战，因为这些互动通常不涉及直接的性暗示，由于捕食者需要时间与受害者建立信任和关系。此外，捕食者会使用间接和编码语言来规避检测。虽然先前的研究对Transformer进行微调以自动识别聊天对话中的 grooming，但忽略了编码和间接语言对模型预测的影响，以及这些预测如何与人类感知的 grooming 一致。本文针对这一空白进行了研究，评估了在三种不同参与者组（执法官员、真实受害者和诱骗者）的聊天语境中，对不同程度 grooming 风险进行分类的双编码器。我们采用模糊理论框架，将人类对 grooming 行为的评估映射为估算实际 grooming 风险程度的可能值。我们的分析表明，微调后的模型未能识别捕食者使用间接话语路径和编码语言来规避检测的实例。进一步地，我们发现，这类实例在样本中存在更高的词汇表外（OOV）词的比例，导致模型误分类。我们的发现凸显了在 grooming 语境中从噪声聊天输入中识别编码语言的需要更健壮的模型。