两界之劣：心理学与机器学习中从数据学习的错误比较分析

近期认为机器学习（ML）正面临可重复性与复现危机的观点表明，ML研究中一些已发表的论断不能照单全收。这些担忧引发与影响社会和医学科学的复现危机之间的类比，也引发了对因果推断统计方法与预测建模相融合的呼吁。深入理解监督式ML研究中的可重复性担忧与实验科学中复现危机的共性，有助于正确看待这些新担忧，并帮助研究者避免“两界之劣”——即ML研究者在未理解解释性建模方法局限性的情况下便照搬其方法，反之亦然。我们贡献了一项关于归纳学习担忧的比较分析，这些担忧在心理学所例示的因果归因与ML所例示的预测建模中均有出现。我们识别出在改革讨论中反复出现的主题，例如对渐近理论的过度依赖以及对真实世界数据生成过程不可信的信念。我们认为，两个领域中的学习论断都被暗示可推广至所研究特定环境（如输入数据集或受试样本、建模实现等）之外，但由于学习管道中未公开的方差来源，往往无法被驳倒。特别地，ML中已被承认的错误暴露了长期信念中的裂痕：即利用海量数据集优化预测精度便可免除考虑真实数据生成过程或正式表示性能论断中不确定性的需要。我们最后讨论了错误诊断误差来源所带来的风险，以及承认人类归纳偏差在学习和改革中作用的必要性。