关于学习单个周期神经元的密码学困难性
机器学习
2021-09-17 v2 计算复杂性
概率论
统计理论
机器学习
统计理论
摘要
我们展示了一个简单的归约,证明了在噪声存在下于各向同性高斯分布上学习单个周期神经元的密码学困难性。更确切地说,我们的归约表明,任何在小噪声下学习此类函数的多项式时间算法(不一定基于梯度)都意味着一个用于解决最坏情况格问题的多项式时间量子算法,而后者的困难性构成了基于格的密码学的基础。我们的核心困难函数族可由一层神经网络良好逼近,其一般形式为一个单变量周期函数作用于数据的仿射投影。这些函数曾出现在先前证明其对基于梯度(Shamir'18)和统计查询(SQ)算法(Song et al.'17)困难性的开创性工作中。我们表明,如果向标签加入(多项式级)小噪声,在这些密码学假设下,学习这些函数的难处理性适用于所有多项式时间算法,而不仅限于基于梯度和SQ算法。此外,我们通过设计一个在指数小对抗噪声下学习此类函数某些族的多项式时间算法,证明了噪声在困难性结果中的必要性。我们提出的算法不是基于梯度或SQ的算法,而是基于著名的Lenstra-Lenstra-Lovász(LLL)格基约化算法。此外,在无噪声情况下,该算法可直接应用于解决CLWE检测(Bruna et al.'21)和以最优样本复杂度 个样本进行相位恢复。在前一种情况下,这改进了(Bruna et al.'21)中所需的关于 的二次样本复杂度。
引用
@article{arxiv.2106.10744,
title = {On the Cryptographic Hardness of Learning Single Periodic Neurons},
author = {Min Jae Song and Ilias Zadik and Joan Bruna},
journal= {arXiv preprint arXiv:2106.10744},
year = {2021}
}
备注
64 pages. Added more references, and a proof of the sample complexity lower bound