中文

填补内容审查中的裂缝:基于去词化的远期监督用于非法药物术语检测

计算与语言 2025-03-20 v1

摘要

面对日益增长的毒品相关问题以及社交媒体作用的提升,非法毒品的销售与讨论在线上变得普遍。托管用户生成内容的社交媒体平台因此必须进行内容审查,而这一任务因药物讨论中使用的术语庞杂而具有挑战性。以往的药物术语检测工作局限于提取术语列表,但这些方法在实际应用中存在根本性问题。首先,他们可被简单的词汇替换轻易规避。其次,它们无法区分某些隐喻术语(如"pot"或"crack")是作为药物使用还是以其良好含义使用。我们认为,药物内容审查应基于上下文进行,而非依赖禁用词表。然而,手动标注的数据集用于训练此类任务成本高昂且容易过时。我们提出 JEDIS(Detecting Illicit Drug Jargon via delexicalized Distant Supervision),一种通过分析术语上下文来检测非法药物术语的框架。JEDIS 利用一种新的方法,将远期监督与去词化结合,允许 JEDIS 在无需人工标注数据的情况下进行训练,同时对新术语和隐喻词具有鲁棒性。在两个手动标注的数据集上进行实验,JEDIS 在 F1 分数和药物术语检测覆盖率方面显著优于最先进的基于词汇的基线方法。我们还进行了定性分析,表明 JEDIS 对现有方法所面临的瓶颈具有鲁棒性。

关键词

引用

@article{arxiv.2503.14926,
  title  = {Covering Cracks in Content Moderation: Delexicalized Distant Supervision for Illicit Drug Jargon Detection},
  author = {Minkyoo Song and Eugene Jang and Jaehan Kim and Seungwon Shin},
  journal= {arXiv preprint arXiv:2503.14926},
  year   = {2025}
}

备注

Accepted for publication in the KDD 2025 Research Track