邪恶噪声是否真的比恶意噪声更难?
机器学习
2026-02-18 v2 计算复杂性
数据结构与算法
摘要
我们考虑在两种已广泛研究的对抗性噪声模型下,计算高效算法学习布尔函数能力与限制:恶意噪声允许对学习者给定的随机示例子集进行任意损坏;而恶意噪声允许对学习者给定的示例子集中被挑选出的子集进行任意损坏。我们考虑分布无关和固定分布两种情形。我们的主要结果突显了这两种情形之间的根本差异:对于分布无关学习,我们证明了两种噪声模型之间存在强烈等价性:如果一个函数类在率恶意噪声下可被有效学习,那么它在率恶意噪声下也可被有效学习。鲜明地相反,对于固定分布情形,我们展示了一个任意大的分离:在标准密码学假设下,对于任意给定的值,都存在一个概念类,使得恶意噪声率与恶意噪声率之间的比值可达。为了抵消固定分布情形中的负面结果,我们定义了一类广泛且自然的算法,即忽略矛盾示例(ICE)的算法。我们证明了对于这些算法,恶意噪声和恶意噪声在噪声率上最多相差一个因数:任何成功于率恶意噪声的高效ICE学习者都可以转化为成功于率恶意噪声的高效学习者。我们进一步证明了上述因数2是必要的,再次基于标准密码学假设。
引用
@article{arxiv.2511.09763,
title = {Is nasty noise actually harder than malicious noise?},
author = {Guy Blanc and Yizhi Huang and Tal Malkin and Rocco A. Servedio},
journal= {arXiv preprint arXiv:2511.09763},
year = {2026}
}
备注
SODA 2026