通过自定义数据分布与损失正则化化解困难问题：以模块算术为例
机器学习
2025-08-26 v2
摘要
最近的研究表明，基于机器学习的学习误差(LWE)攻击在某些情境下超过传统代数攻击。尽管具有前景，但机器学习攻击在更复杂的LWE情境下难以扩展。先前的工作将此问题与机器学习模型学习模块算术的困难联系起来。为此，我们发展技术显著提升机器学习模型在模块算术任务上的性能，使其能够对最多N=128个元素模q≤974269进行求和。我们的核心创新是使用自定义训练数据分布和精心设计的损失函数，以更好地反映问题结构。我们对LWE的初始概念验证技术发现其允许恢复比先前工作更难的密钥。我们的技术还帮助机器学习模型更好地学习其他经典问题，包括复制、关联记忆和奇偶校验，进一步推动研究。
引用
@article{arxiv.2410.03569,
title = {Making Hard Problems Easier with Custom Data Distributions and Loss Regularization: A Case Study in Modular Arithmetic},
author = {Eshika Saxena and Alberto Alfarano and François Charton and Zeyuan Allen-Zhu and Emily Wenger and Kristin Lauter},
journal= {arXiv preprint arXiv:2410.03569},
year = {2025}
}