ImageNet 训练的分类器体现了何种价值观？

我们将“价值观”定义为分类器所采取的、涉及具有重大社会关切的开放性问题的行为。研究分类器的价值观建立在社会偏见研究的基础上，这些研究揭示了分类器如何在其创造者预见之外参与社会过程。在我们的案例中，这种参与涉及什么算作营养、何为端庄得体等等。然而，与人工智能社会偏见不同，分类器的价值观在道德上并非必然令人反感。关注图像分类器的价值观可以促进关于社会未来的公共辩论与反思。为证实这些主张，我们报告了一项对 ImageNet 训练/验证数据以及使用定制测试数据的 ImageNet 训练分类器的广泛检验。我们在 118 个类别中识别出回应社会开放性问题的感知决策边界，并通过对比数据集的定量测试发现，ImageNet 训练的分类器通过其感知决策至少体现了 7 种价值观。为将这些结果置于背景中，我们开发了一个整合价值观、社会偏见和准确性的概念框架，并描述了一种修辞方法，用于识别上下文如何影响分类器所体现的价值观。我们还发现，分类器性能并不能直接反映训练集中子群体的比例。我们的发现为机器学习研究者带来了对社会世界的丰富感知，可应用于计算机视觉之外的其他领域。