多任务变分信息瓶颈
机器学习
2021-03-02 v4 机器学习
摘要
多任务学习（MTL）是机器学习和人工智能中的一个重要课题。它在计算机视觉、信号处理和语音识别中的应用十分普遍。尽管该课题近年来引起了相当多的关注，现有模型对不同任务的性能和鲁棒性尚未得到良好平衡。本文提出一种基于变分信息瓶颈（VIB）架构的 MTL 模型，该模型能为下游任务提供更有效的输入特征潜在表示。在对抗攻击下三个公开数据集上的大量观察表明，所提模型在预测精度方面与最先进（SOTA）算法具有竞争力。实验结果表明，结合 VIB 与任务相关不确定性是从输入特征中提取有效信息以完成多任务的一种非常有效的方式。
引用
@article{arxiv.2007.00339,
title = {Multi-Task Variational Information Bottleneck},
author = {Weizhu Qian and Bowei Chen and Yichao Zhang and Guanghui Wen and Franck Gechter},
journal= {arXiv preprint arXiv:2007.00339},
year = {2021}
}
备注
10 pages