大科技公司之外的机器学习实践：资源约束如何挑战负责任开发
机器学习
2021-10-07 v1 计算机与社会
摘要
来自不同职业和背景的从业者正越来越多地使用机器学习（ML）方法。然而，关于 ML 从业者的研究通常从大科技公司和学术界抽取人群，因为研究者更容易接触这些群体。通过这种选择偏差，过去的研究常常排除了更广泛、资源更少的 ML 群体——例如，在初创公司、非科技公司和公共部门工作的从业者。这些从业者与其大科技公司同行有着许多相同的 ML 开发困难和伦理困境；然而，他们的经历还面临因在资源有限、生存风险增加且无法使用内部研究团队的情况下部署 ML 所带来的额外未被充分研究的挑战。我们贡献了对先前研究中代表性不足组织的 17 位利益相关者的定性分析。我们揭示了由这些组织的资源约束引入或加剧的若干张力——隐私与普适性之间的张力、资源管理与性能优化之间的张力，以及访问与垄断之间的张力。学术界对这些从业者的更多关注有助于更全面地理解 ML 的局限性，从而有助于制定研究议程以促进对所有人的负责任 ML 开发。
引用
@article{arxiv.2110.02932,
title = {Machine Learning Practices Outside Big Tech: How Resource Constraints Challenge Responsible Development},
author = {Aspen Hopkins and Serena Booth},
journal= {arXiv preprint arXiv:2110.02932},
year = {2021}
}