利用ELECTRA实现自然语言处理的高效迁移学习
计算与语言
2021-04-09 v1 人工智能
机器学习
摘要
Clark等人[2020]声称，相对于计算预算，ELECTRA方法在自然语言处理性能上极具效率。因此，本可复现性研究聚焦于该主张，概括为以下问题：在计算成本方面，我们能否在低资源设置下使用ELECTRA达到接近SOTA的自然语言处理性能？
引用
@article{arxiv.2104.02756,
title = {Efficient transfer learning for NLP with ELECTRA},
author = {François Mercier},
journal= {arXiv preprint arXiv:2104.02756},
year = {2021}
}
备注
Submission for ML Reproducibility Challenge 2020