面向基于内容的在线影响活动检测的伦理方法
计算机与社会
2019-12-11 v1 计算与语言
摘要
检测在线社区中影响用户的隐蔽行为是一个具有显著活跃研究进展的挑战性问题。我们证明，从用户评论文本中提取的特征有助于识别可疑活动，但当过去影响活动中过度出现的关键词存在时，会导致错误识别增加。借鉴母语识别（NLI）研究，我们使用“命名实体掩蔽”（NEM）来创建对此缺陷具有鲁棒性的句子特征，同时保持可比的分类准确率。我们证明，尽管NEM在提及关键命名实体时持续降低假阳性率，但掩蔽与未掩蔽模型在俄语母语者的英语句子上均表现出假阳性率升高，这引发了应在未来研究中解决的伦理考量。
引用
@article{arxiv.1908.11030,
title = {Towards Ethical Content-Based Detection of Online Influence Campaigns},
author = {Evan Crothers and Nathalie Japkowicz and Herna Viktor},
journal= {arXiv preprint arXiv:1908.11030},
year = {2019}
}
备注
To appear in "Special Session on Machine learning for Knowledge Discovery in the Social Sciences" at IEEE Machine Learning for Signal Processing Workshop (MLSP) 2019