misinformation检测系统中的公正性：算法、利益相关者与潜在危害分析
计算机与社会
2022-05-02 v2 人工智能
摘要
面对社交媒体上错误信息的规模与激增，许多平台和事实核查机构已转向算法以自动化错误信息检测流程的关键环节。尽管为规模挑战提供了有前景的解决方案，但与算法化错误信息检测相关的伦理和社会风险尚未被充分理解。在本文中，我们运用并扩展了信息公正的概念，以开发一个框架，阐明错误信息检测流程中涉及表征、参与、收益与负担分配以及可信度的公正问题。基于该框架：(1)我们展示了不公正如何在该流程的三个算法阶段中作用于各利益相关者；(2)我们提出了评估这些不公正的实证度量；(3)我们识别了这些危害的潜在来源。该框架应有助于研究人员、政策制定者和从业者推理与这些算法相关的潜在危害或风险，并为该领域中算法公平性审计的设计提供概念性指导。
引用
@article{arxiv.2204.13568,
title = {Justice in Misinformation Detection Systems: An Analysis of Algorithms, Stakeholders, and Potential Harms},
author = {Terrence Neumann and Maria De-Arteaga and Sina Fazelpour},
journal= {arXiv preprint arXiv:2204.13568},
year = {2022}
}
备注
Accepted at ACM Conference on Fairness, Accountability, and Transparenct (FAccT), 2022