网络位置视角下网络欺凌检测算法的公平性
社会与信息网络
2019-05-10 v1
摘要
网络欺凌往往对受害者产生深远的负面影响，并已成为在线社交网络中的严重问题。近来，研究者利用社交与文本特征创建了自动机器学习算法来检测网络欺凌。然而，这些旨在抵御一种威胁（网络欺凌）的算法，可能无意中受制于另一种重要威胁（自动检测算法的偏差）。当前关于算法公平性的文献已包含诸多针对即时可观测人口统计特征（如年龄、种族、性别）偏差的实证结果、度量与抵消算法，但基于个体网络角色或位置量化算法性能差异的实证工作尚属空白，这加剧了上述问题。我们利用 Twitter 数据审计了一种现有网络欺凌算法在潜在受害者网络中心性所导致的检测性能差异，并展示了如何使用 Equalized Odds（均等几率）后处理技术来抵消该差异。相关结果为更准确且公平的网络欺凌检测算法铺平了道路。
引用
@article{arxiv.1905.03403,
title = {Fairness across Network Positions in Cyberbullying Detection Algorithms},
author = {Vivek Singh and Connor Hofenbitzer},
journal= {arXiv preprint arXiv:1905.03403},
year = {2019}
}