稀疏二值投影中胜者通吃竞争的建模
机器学习
2020-01-28 v2 机器学习
摘要
受生物科学进展的启发，稀疏二值投影模型的研究近来引起了相当多的关注。这些模型将稠密输入样本投影到更高维空间，并在胜者通吃（Winner-Take-All, WTA）竞争后输出稀疏二值数据表示，约束条件为投影矩阵也是稀疏且二值的。沿着这一思路，我们开发了在有输入和输出表示的训练样本可用时的监督-WTA 模型，由此可用简单、有效且高效的算法获得最优投影矩阵。我们进一步将模型和算法扩展到仅样本输入表示可用的无监督设定。在一系列相似性搜索任务的实证评估中，所提模型在搜索准确率和运行速度上都比最先进（state-of-the-art, SOTA）方法取得了显著改进。成功的结果使我们强烈相信该工作为真实世界应用提供了高度实用的工具。
引用
@article{arxiv.1907.11959,
title = {Modeling Winner-Take-All Competition in Sparse Binary Projections},
author = {Wenye Li},
journal= {arXiv preprint arXiv:1907.11959},
year = {2020}
}
备注
9 pages, 5 figures