多任务学习用于降低有毒评论检测模型偏差的实证分析
人工智能
2020-03-30 v3
摘要
随着社交媒体平台上在线对话中攻击性内容的近期增多，使用现代机器学习算法进行有毒评论检测已成为许多在线应用的核心焦点。研究人员和公司开发了多种模型来识别在线对话、评论或评价中的攻击性内容，但成效不一。然而，许多现有方法错误地学会将含有某些触发词（例如 gay、lesbian、black、muslim）的非攻击性评论与潜在的攻击性来源相关联。在本文中，我们评估了几种最先进的模型，特别关注降低模型对这些常受攻击身份群体的偏差。我们提出了一种带有注意力层的多任务学习模型，该模型联合学习预测评论的攻击性以及评论中出现的身份，以减少这种偏差。随后，我们使用专门设计用于测试这些身份群体内非预期模型偏差的指标，将我们的模型与一系列浅层和深度学习模型进行了比较。
引用
@article{arxiv.1909.09758,
title = {Empirical Analysis of Multi-Task Learning for Reducing Model Bias in Toxic Comment Detection},
author = {Ameya Vaidya and Feng Mai and Yue Ning},
journal= {arXiv preprint arXiv:1909.09758},
year = {2020}
}
备注
ICWSM 2020