中文

通过神经网络生成可矩形化测度

机器学习 2024-12-09 v1 信息论 math.IT 概率论 统计理论 机器学习 统计理论

摘要

我们推导了 (可数) mm 可矩形化测度的通用逼近结果。具体而言,我们证明 mm 可矩形化测度可通过使用 ReLU 神经网络对区间 [0,1][0,1] 上一维 Lebesgue 测度进行 push-forward 来实现,其逼近误差以 Wasserstein 距离为标准可任意小。此外,考虑到的神经网络中的权重是量化且有界的, achieving an approximation error of ε\varepsilon 所需的神经网络数量上限为 2b(ε)2^{b(\varepsilon)},其中 b(ε)=O(εmlog2(ε))b(\varepsilon)=\mathcal{O}(\varepsilon^{-m}\log^2(\varepsilon))。该结果改进了 Perekrestenko 等人第 IX.4 引理,表明 b(ε)b(\varepsilon) 随着 ε\varepsilon 趋于零的收敛速率等于矩形化参数 mm,而该参数远小于环境维度。我们将该结果推广到可数 mm 可矩形化测度,证明只要在其他技术假设下,可数 mm 可矩形化支撑集的各个组成部分上的测度呈指数衰减,上述速率仍等于矩形化参数 mm

关键词

引用

@article{arxiv.2412.05109,
  title  = {Generating Rectifiable Measures through Neural Networks},
  author = {Erwin Riegler and Alex Bühler and Yang Pan and Helmut Bölcskei},
  journal= {arXiv preprint arXiv:2412.05109},
  year   = {2024}
}