基于 MMD 网络的半监督翻译
机器学习
2018-10-30 v1 计算与语言
机器学习
摘要
本工作旨在通过引入一种监督与无监督混合代价函数,改进神经网络架构中的半监督学习。无监督分量使用网络输出与目标数据集之间最大均值差异(Maximum Mean Discrepancy, MMD)距离的可微估计量进行训练。我们提出了 n 通道网络的概念,以及若干基于监督预初始化和多尺度核来提升这些网络性能的方法。本工作研究了这些方法在仅已知极少高质量翻译的机器翻译任务上的有效性。我们还在合成数据上对该方法的超参数空间进行了深入探究。
引用
@article{arxiv.1810.11906,
title = {Semi-Supervised Translation with MMD Networks},
author = {Mark Hamilton},
journal= {arXiv preprint arXiv:1810.11906},
year = {2018}
}