神经网络在概率测度空间与树结构域上的逼近能力
机器学习
2019-06-04 v1 机器学习
摘要
本文将神经网络在欧氏空间上连续(甚至可测)函数空间中的稠密性证明推广到紧概率测度集上的函数。由此,该工作与十多年前关于概率测度在再生核希尔伯特空间中的均值映射嵌入的结果相平行。该工作在多示例学习方面具有广泛的实际意义,从理论上论证了近期提出的一些构造。随后结果被推广到笛卡尔积,得到了树结构域的通用逼近定理,而树结构域自然出现于 JSON、XML、YAML、AVRO 和 ProtoBuffer 等数据交换格式中。这具有重要的实际含义,因为它能够自动创建用于处理结构化数据的神经网络架构(AutoML 范式),如所附 JSON 格式库所展示的那样。
引用
@article{arxiv.1906.00764,
title = {Approximation capability of neural networks on spaces of probability measures and tree-structured domains},
author = {Tomas Pevny and Vojtech Kovarik},
journal= {arXiv preprint arXiv:1906.00764},
year = {2019}
}