TAPAS：用于Softmax的两遍近似自适应采样
机器学习
2017-07-17 v2
摘要
TAPAS是一种用于softmax模型的新型自适应采样方法。它采用两遍采样策略，其中用于近似配分函数梯度的样本首先根据压缩总体分布采样，然后利用上下文和当前模型进行自适应重采样。我们描述了TAPAS的一种高效分布式实现。我们在合成数据和大型真实数据集上表明，TAPAS具有低计算开销，并且非常适用于具有极大标签空间的多类分类问题的秩损失最小化。
引用
@article{arxiv.1707.03073,
title = {TAPAS: Two-pass Approximate Adaptive Sampling for Softmax},
author = {Yu Bai and Sally Goldman and Li Zhang},
journal= {arXiv preprint arXiv:1707.03073},
year = {2017}
}