RC2020报告：利用有偏表示学习去偏表示
机器学习
2021-05-17 v1
摘要
作为ML可复现性挑战2020的一部分，我们调研了Bahng等人发表于ICML 2020的论文《利用有偏表示学习去偏表示》，其中作者形式化并尝试解决所谓的“交叉偏置泛化”问题，提出了一种称为ReBias的新方法。本报告包含我们在图像识别应用领域（具体为biased MNIST与ImageNet数据集）复现该工作的结果。我们将ReBias与其他方法——Vanilla、Biased、RUBi（按作者实现）——进行比较，并以对该论文所声称结论有效性的讨论作结。我们能够将biased MNIST数据集上报告的结果复现至与论文原值相差1%以内。与作者相同，我们报告3次运行的平均值。然而，在后续章节中，我们提供了一些额外结果，似乎削弱了论文关于biased MNIST数据集的核心主张。我们未能如原论文般复现ImageNet上的结果，但基于与作者的沟通，给出了相关原因讨论。本工作力求对打算将ReBias用于自身研究的其他研究者有所助益，并就过程中可能遇到的若干陷阱提供建议。
引用
@article{arxiv.2105.06724,
title = {RC2020 Report: Learning De-biased Representations with Biased Representations},
author = {Rwiddhi Chakraborty and Shubhayu Das},
journal= {arXiv preprint arXiv:2105.06724},
year = {2021}
}