#ContextMatters：利用机器学习支持政界女性的优势与局限

联合国在2015年将性别平等确定为一个可持续发展目标，并认识到女性从政比例不足是实现性别平等的具体障碍。世界各地的政治体系在民选政府的各个层级都存在性别不平等，因为参选的女性少于男性。这部分归因于网络虐待，尤其是在Twitter等社交媒体平台上，寻求权力或已在位的女性往往比男性同行受到更多有毒虐待。在本文中，我们介绍对ParityBOT的反思——这是首个基于自然语言处理的干预工具，旨在大规模改善针对政界女性的网络话语。ParityBOT部署于加拿大、美国和新西兰的选举中，用于分析并分类超过1200万条指向女性候选人的推文，并以支持性推文反击有毒推文。基于这些选举，我们提出三个案例研究，凸显了使用基于自然语言处理的系统检测网络毒性（特别是具有语境重要性的微侵犯）当前的局限，以及未来研究与应用的机遇。我们考察了假阴性率，即ParityBOT未能捕捉到针对特定高知名度女性的、对人类用户而言显而易见的侮辱。我们考察了微侵犯未被处理的危害，以及鉴于这些技术盲点，它们对这些社群中的女性和整体性别平等进展所造成的潜在未知损害。本文最后讨论了非营利社会团体与技术专家之间建立伙伴关系的好处，以开发负责任的、具有社会影响力的应对网络仇恨的方法。