有限数据学习的陷阱:以面部表情识别为例的研究
计算机视觉与模式识别
2021-07-05 v1 机器学习
摘要
深度学习模型训练需要大量数据。在视频识别与分类中,新大型数据库的引入带来了显著进展。然而,在若干场景下创建大型训练数据库不可行。因此,通常将已有或小规模收集的数据库拼接并扩增以训练这些模型。尽管如此,在有限数据上训练神经网络并非易事,并伴随一系列问题。本文中,我们探究在有限数据上训练时,数据库堆叠、模型初始化与数据扩增技术对深度学习模型性能的影响。我们聚焦于视频面部表情识别问题。我们对四个复杂度不同的数据库与九种视频分类深度学习架构进行了广泛研究。我们发现:(i)用迁移学习与合成数据训练时,复杂训练集能更好地迁移至更稳定的测试集,但其性能方差高;(ii)用更细致数据训练可迁移至新场景的更稳定性能(尽管性能较低);(iii)异构数据合并并非直白的改进,因为扩增类型与初始化至关重要;(iv)经典数据扩增无法填补拼接差异巨大数据集所产生的空白;(v)归纳偏置与合成数据配对有助于弥合差距,但在标准初始化技术下该数据尚不足够。
引用
@article{arxiv.2104.02653,
title = {On the Pitfalls of Learning with Limited Data: A Facial Expression Recognition Case Study},
author = {Miguel Rodríguez Santander and Juan Hernández Albarracín and Adín Ramírez Rivera},
journal= {arXiv preprint arXiv:2104.02653},
year = {2021}
}
备注
To appear in Expert Systems with Applications