制造智能：IQ 与机器学习基准中的伦理价值
机器学习
2023-05-12 v4 计算机与社会
摘要
近年来，机器学习（ML）研究者一直在努力定义和改进机器学习（ML）基准与数据集。与此同时，一些人以批判视角审视数据集创建与 ML 研究的伦理问题。在本立场论文中，我们强调伦理与关于 ML 基准设计的看似“技术”或“科学”的决策之间的纠缠。我们的出发点是人类智能基准与 ML 基准之间存在多个被忽视的结构性相似。两类基准都为描述、评估和比较与智能相关任务上的表现设定了标准——许多人类智能学者早已认识到这些标准承载价值。我们运用女性主义科学哲学关于 IQ 基准的观点以及社会科学中厚概念，论证在创建 ML 基准时需要考虑并记录价值。既不可能也不可取通过创建价值中立的基准来回避这一选择。最后，我们提出关于 ML 基准研究伦理与伦理审查的实用建议。
引用
@article{arxiv.2209.00692,
title = {Making Intelligence: Ethical Values in IQ and ML Benchmarks},
author = {Borhane Blili-Hamelin and Leif Hancox-Li},
journal= {arXiv preprint arXiv:2209.00692},
year = {2023}
}
备注
FAccT 2023, June 12 to 15, 2023, Chicago, IL, USA