不以表象判用户：理解社交媒体研究中多模态处理的有害影响
社会与信息网络
2020-10-21 v1
摘要
社交媒体已然撼动了我们社会的基础，尽管这看似不太可能。然而，许多用于审核有害数字内容的流行工具，因表现平平且缺乏问责，受到了学术界和公众的广泛批评。尽管社交媒体研究被认为主要以自然语言处理为中心，我们展示了社区理解多媒体处理及其独特伦理考量之必要性。具体而言，我们识别出当提供不同模态信息时，Amazon Turk（MTurk）标注者在表现上的统计差异，并讨论了众包式人口统计预测所引发的有害模式。最后，我们通过审计名为 Perspective API 的毒性检测器在各类人口统计类别的 Twitter 用户语言上的表现，讨论了这些偏见的后果。
引用
@article{arxiv.2010.09768,
title = {Not Judging a User by Their Cover: Understanding Harm in Multi-Modal Processing within Social Media Research},
author = {Jiachen Jiang and Soroush Vosoughi},
journal= {arXiv preprint arXiv:2010.09768},
year = {2020}
}
备注
In proceedings of the 2nd International Workshop on Fairness, Accountability, Transparency and Ethics in Multimedia (FATE/MM'20). Held in conjunction with ACM Multimedia 2020 (MM 20)