SoftCTC——基于软伪标签的文本识别半监督学习
机器学习
2023-09-20 v3 计算机视觉与模式识别
摘要
本文探讨面向序列任务（如光学字符识别或自动语音识别）的半监督训练。我们提出一种新颖的损失函数——SoftCTC——它是 CTC 的扩展，允许同时考虑多种转写变体。这得以省去基于置信度过滤的步骤，而该步骤在其他伪标签半监督学习方法中是至关重要的组成部分。我们在一个具有挑战性的手写识别任务上证明了方法的有效性，并得出结论：SoftCTC 与精细调优的基于过滤的流水线性能相当。我们还从计算效率角度评估了 SoftCTC，结论是其在处理多种转写变体训练时显著优于朴素的基于 CTC 的方法，并公开了我们的 GPU 实现。
引用
@article{arxiv.2212.02135,
title = {SoftCTC -- Semi-Supervised Learning for Text Recognition using Soft Pseudo-Labels},
author = {Martin Kišš and Michal Hradiš and Karel Beneš and Petr Buchal and Michal Kula},
journal= {arXiv preprint arXiv:2212.02135},
year = {2023}
}
备注
21 pages, 8 figures, 6 tables, accepted to International Journal on Document Analysis and Recognition (IJDAR)