任务驱动的离散表征学习
机器学习
2025-06-16 v1
摘要
近年来，深度离散表征学习（DRL）在各个领域取得了显著成功。大多数DRL框架（例如广泛使用的VQ-VAE及其变体）主要聚焦于生成式设置，其中表征的质量通过生成的保真度来隐式衡量。事实上，离散表征的好坏在文献中仍定义模糊。在本工作中，我们采用一种实用方法，从任务驱动的视角审视DRL。我们提出一个统一框架，探讨离散特征在下游任务中的有用性，将生成自然地视为一种可能的应用。在此背景下，离散表征的性质以及它们如何使某些任务受益也相对未被充分研究。因此，我们进一步提供了关于表征能力与样本复杂度之间权衡的理论分析，揭示了离散表征利用如何影响任务性能。最后，我们在多样化的应用中展示了我们框架的灵活性和有效性。
引用
@article{arxiv.2506.11511,
title = {Task-Driven Discrete Representation Learning},
author = {Tung-Long Vuong},
journal= {arXiv preprint arXiv:2506.11511},
year = {2025}
}