分类与自动文本分析中的偏差、多样性及公平性挑战：从图书馆到人工智能再回归
计算机与社会
2023-03-14 v1 人工智能
摘要
图书馆正日益依赖计算方法，包括来自人工智能（AI）的方法。这种日益增长的使用引发了关于 AI 风险的担忧，这些风险目前在科学文献、媒体与立法中被广泛讨论。本文在图书馆应用的语境下，考察分类与自动文本分析中 AI 使用所围绕的偏差与不公平性风险。我们描述了若干实例，表明图书馆界长久以来已意识到此类风险，并已开发且部署了对策。我们细致审视了“（不）公平性”概念与“多样性”概念的关系，并考察了一种对多样性进行形式化建模的方法，该模型同时刻画包容性与分布。我们认为，自动内容分析的诸多不公平问题亦可透过多样性视角及为增强多样性所采取的对策来审视。
引用
@article{arxiv.2303.07207,
title = {Bias, diversity, and challenges to fairness in classification and automated text analysis. From libraries to AI and back},
author = {Bettina Berendt and Özgür Karadeniz and Sercan Kıyak and Stefan Mertens and Leen d'Haenens},
journal= {arXiv preprint arXiv:2303.07207},
year = {2023}
}
备注
14 pages