从模型性能到声明:机器学习可复现性研究焦点的转变如何有助于弥合责任鸿沟
计算机与社会
2025-08-14 v2 人工智能
机器学习
摘要
提高机器学习研究的可复现性和问责制这两个目标,分别引起了AI伦理学和机器学习社区的极大关注。尽管两者都采取了提高透明度的措施,但这两个目标是在不同语境下讨论的——可复现性对应科学推理,而问责制对应伦理推理。鉴于存在“责任鸿沟”这一现有挑战(即由于机器学习科学家远离应用现场而难以追究其对机器学习危害的责任),本文提出重新概念化可复现性有助于弥合这一鸿沟。通过从模型性能可复现性向声明可复现性的转变,可以追究机器学习科学家制造不可复现声明的责任,这些声明因误用和误解而容易引发伤害。在本文中,我做出以下贡献。首先,我定义并区分了机器学习研究的两种可复现性形式,这有助于围绕可复现性展开建设性对话。其次,我论证了声明可复现性相较于模型性能可复现性的优势,它能为追究机器学习科学家制造不可复现声明的责任提供正当理由,并展示了它如何践行一种切实可行的责任感。此外,通过讨论其相互竞争的认识论原则以及对循环参考、解释性劳动和科学交流的实际影响,我将声明可复现性的实施特征化为一个社会项目而非技术项目。
引用
@article{arxiv.2404.13131,
title = {From Model Performance to Claim: How a Change of Focus in Machine Learning Replicability Can Help Bridge the Responsibility Gap},
author = {Tianqi Kou},
journal= {arXiv preprint arXiv:2404.13131},
year = {2025}
}
备注
FAccT 2024