自动化决策中偏见的更广阔视角：对认识论与动力学的反思
机器学习
2018-07-09 v2 人工智能
系统与控制
动力系统
机器学习
摘要
机器学习（ML）正日益部署于真实世界场景中，提供可操作的洞察并构成自动化决策系统的基础。尽管训练数据中预先存在的偏见所引发的问题一直处于公平性讨论的中心，但这些系统也受到技术偏见与涌现偏见的影响，后者常作为特定情境下的实现产物而出现。本立场论文将技术偏见解读为认识论问题，将涌现偏见解读为动态反馈现象。为激发关于如何改变机器学习实践以有效应对这些问题的讨论，我们探讨这一更广阔的偏见视角，强调反思认识论的必要性，并指出价值敏感设计方法论以重新审视自动化决策系统的设计与实现过程。
引用
@article{arxiv.1807.00553,
title = {A Broader View on Bias in Automated Decision-Making: Reflecting on Epistemology and Dynamics},
author = {Roel Dobbe and Sarah Dean and Thomas Gilbert and Nitin Kohli},
journal= {arXiv preprint arXiv:1807.00553},
year = {2018}
}
备注
Presented at the 2018 Workshop on Fairness, Accountability and Transparency in Machine Learning during ICML 2018, Stockholm, Sweden