面向具 Lipschitz 非线性的单神经元模型的主动学习
机器学习
2023-07-20 v4
摘要
我们考虑在不可知设定(对抗性标签噪声下)中单神经元模型(亦称“岭函数”)的主动学习问题。此类模型已被证明在物理现象建模及构建偏微分方程的代理数据驱动模型方面广泛有效。令人惊讶的是，我们表明对于任意 Lipschitz 非线性(如 ReLU、sigmoid、绝对值、低次多项式等)的单神经元模型，可利用一种著名的、用于拟合不可知设定下线性函数的主动学习策略获得强可证明近似保证。即，我们可通过统计杠杆得分采样收集样本，该方法已在其他主动学习场景中被证明近最优。我们以实证模拟支撑理论结果，显示所提基于杠杆得分采样的主动学习策略在拟合单神经元模型时优于(普通)均匀采样。
引用
@article{arxiv.2210.13601,
title = {Active Learning for Single Neuron Models with Lipschitz Non-Linearities},
author = {Aarshvi Gajjar and Chinmay Hegde and Christopher Musco},
journal= {arXiv preprint arXiv:2210.13601},
year = {2023}
}
备注
Inadvertently submitting an incorrect writeup that does not align with the intended content