基于迭代重加权最小二乘的神经网络联合学习
机器学习
2019-06-12 v2 计算机视觉与模式识别
机器学习
摘要
本文中，我们引入在一组相关但多样的数据集上联合学习前馈神经网络的问题。与从每个数据集孤立地学习单独的网络相比，联合学习使我们能够提取多个数据集间的相关信息，从而显著提升所学网络的质量。我们将此问题表述为联合学习多个相同网络架构的副本，并强制这些网络间共享网络权重。我们并非手工编码共享网络层，而是求解一个优化问题以自动确定每对数据集之间应如何共享层。实验结果表明，我们的方法优于无联合学习的基线以及使用预训练-微调的基线。我们在三个任务上展示了方法的有效性：图像分类、自编码器学习和图像生成。
引用
@article{arxiv.1905.06526,
title = {Joint Learning of Neural Networks via Iterative Reweighted Least Squares},
author = {Zaiwei Zhang and Xiangru Huang and Qixing Huang and Xiao Zhang and Yuan Li},
journal= {arXiv preprint arXiv:1905.06526},
year = {2019}
}