深度学习的 HARK 侧面——从研究生下降法到自动化机器学习
机器学习
2019-04-17 v1
摘要
机器学习研究（即深度学习）近期的进展引入了在若干复杂任务中超越传统算法乃至人类的方法，这些任务涵盖图像中物体检测、语音识别到困难策略性博弈。然而，当前机器学习研究的方法论，以及由此带来的此类算法在真实世界应用中的实现，似乎存在反复出现的 HARKing（在已知结果后提出假设）问题。本工作中，我们详述这一现象的算法、经济与社会原因及后果。我们给出当前机器学习研究常见做法（例如回避报告负面结果）以及所提算法与数据集在实际真实使用中的泛化能力失败的例子。此外，从负责任、无偏、合乎伦理且具隐私意识的算法决策角度，讨论了机器学习研究与开发的潜在未来轨迹。我们想强调，通过此讨论我们既未声称提供穷尽论证，也未就所提问题指责任何特定机构或个人。这仅仅是身为机器学习领域内部者的我们所提出、关于我们自身的反思。
引用
@article{arxiv.1904.07633,
title = {HARK Side of Deep Learning -- From Grad Student Descent to Automated Machine Learning},
author = {Oguzhan Gencoglu and Mark van Gils and Esin Guldogan and Chamin Morikawa and Mehmet Süzen and Mathias Gruber and Jussi Leinonen and Heikki Huttunen},
journal= {arXiv preprint arXiv:1904.07633},
year = {2019}
}
备注
13 pages