中文

图Transformer应对仇恨言论方法的定性分析:适应动态变化内容

机器学习 2023-05-02 v3 计算与语言 社会与信息网络

摘要

我们的工作推进了一种预测社交媒体中仇恨言论的方法,阐明了考虑帖子后续讨论以成功检测仇恨言论何时可能出现的迫切需求。利用图Transformer网络,结合注意力建模与BERT级自然语言处理,我们的方法能够捕捉上下文并预判即将发生的反社会行为。本文中,我们对该社交网络仇恨言论检测方案的定性分析进行了详尽阐述,从而洞察该方法相较竞争者在哪些情形下成效最为显著,并识别出实现理想性能面临挑战的场景。内容包括对当今社交媒体中泛滥的帖子类型(含仇恨图像使用)的探究。这指明了扩展我们模型使之更为全面的方向。一个关键见解是,聚焦于上下文概念的推理使我们能够很好地支持对在线帖子的多模态分析。我们最后反思了我们所解决的问题尤其契合动态变化主题,这是所有面向社会效益的AI解决方案的关键关切。我们也简要评述了如何通过依据帖子仇恨程度定制的策展内容,借助我们的工作促进心理健康福祉。

关键词

引用

@article{arxiv.2301.10871,
  title  = {Qualitative Analysis of a Graph Transformer Approach to Addressing Hate Speech: Adapting to Dynamically Changing Content},
  author = {Liam Hebert and Hong Yi Chen and Robin Cohen and Lukasz Golab},
  journal= {arXiv preprint arXiv:2301.10871},
  year   = {2023}
}

备注

Accepted at AAAI 2023 AI for Social Good