带公平性约束的网络欺凌检测

网络欺凌是当今数字社会中在线社交互动里一种普遍存在的不良现象。尽管大量计算研究致力于提升机器学习算法的网络欺凌检测性能，但所提出的模型往往会携带并强化无意识的社会偏见。在本研究中，我们试图回答“我们能否通过以公平性约束引导模型训练来减轻网络欺凌检测模型的无意识偏见？”这一研究问题。为此，我们提出了一种能够采用公平性约束的模型训练方案，并使用不同数据集验证了我们的方法。我们证明了各类无意识偏见均可在不损害模型质量的前提下被成功缓解。我们相信我们的工作有助于追求无偏、透明且符合伦理的机器学习解决方案，以促进网络社交健康。