二值迭代硬阈值算法以最优测量次数收敛于1-bit压缩感知
信息论
2026-01-09 v2 数据结构与算法
信号处理
math.IT
机器学习
摘要
压缩感知是一种非常成功的高维信号获取与恢复技术,其依赖于线性运算。然而,信号的实际测量在存储或处理前必须被量化。1(One)-bit压缩感知是压缩感知的高度量化版本,其中信号的每个线性测量仅被缩减为一位:测量的符号。一旦收集到足够多的此类测量,1-bit压缩感知中的恢复问题旨在尽可能准确地找出原始信号。该恢复问题与学习理论中传统的“半空间学习”问题相关。对于稀疏向量的恢复,一种流行的从1-bit测量重建的方法是二值迭代硬阈值(BIHT)算法。该算法是一种简单的投影次梯度下降法,并且尽管问题非凸,经验上已知其收敛良好。BIHT的收敛性质在理论上未被证明,除非使用极大数量的测量(即测量数大于,其中为稀疏度,表示近似误差,且即便该表达式也隐藏了其他因子)。在本文中,我们证明BIHT算法仅需次测量即可收敛。注意,这种对和的依赖对于1-bit压缩感知中的任何恢复方法都是最优的。据我们所知,凭借该结果,BIHT是唯一在所有参数(既又)上都需要最优测量次数的实际且高效(多项式时间)的算法。这也是在适当结构条件下梯度下降算法对非凸问题收敛到正确解的一个例子。
引用
@article{arxiv.2207.03427,
title = {Binary Iterative Hard Thresholding Converges with Optimal Number of Measurements for 1-Bit Compressed Sensing},
author = {Namiko Matsumoto and Arya Mazumdar},
journal= {arXiv preprint arXiv:2207.03427},
year = {2026}
}
备注
Published in Journal of the ACM, 2024; conference version published in FOCS 2022