再生学习：一种用于数据生成的学习范式
机器学习
2023-01-24 v1 人工智能
计算与语言
计算机视觉与模式识别
音频与语音处理
摘要
用于条件数据生成的机器学习方法通常构建从源条件数据X到目标数据Y的映射。目标Y（例如文本、语音、音乐、图像、视频）通常是高维且复杂的，并包含源数据中不存在的信息，这阻碍了在源-目标映射上的有效且高效的学习。本文提出一种称为再生学习的数据生成学习范式，其首先从X生成Y'（Y的抽象/表示），然后从Y'生成Y。训练期间，Y'通过手工规则或自监督学习从Y获得，并用于学习X-->Y'与Y'-->Y。再生学习将表示学习的概念扩展至数据生成任务，可视为传统表示学习的对应物，因为：1）再生学习处理目标数据Y的抽象（Y'）以用于数据生成，而传统表示学习处理源数据X的抽象（X'）以用于数据理解；2）再生学习中的Y'-->Y过程与表示学习中的X-->X'过程均可自监督方式学习（例如预训练）；3）再生学习中从X到Y'的映射与表示学习中从X'到Y的映射均比从X到Y的直接映射更简单。我们表明再生学习可作为一种广泛使用的数据生成范式（例如文本生成、语音识别、语音合成、音乐创作、图像生成与视频生成），并能为开发数据生成方法提供有价值的见解。
引用
@article{arxiv.2301.08846,
title = {Regeneration Learning: A Learning Paradigm for Data Generation},
author = {Xu Tan and Tao Qin and Jiang Bian and Tie-Yan Liu and Yoshua Bengio},
journal= {arXiv preprint arXiv:2301.08846},
year = {2023}
}