神经正切核最大均值差异
机器学习
2021-10-19 v2 机器学习
统计理论
统计理论
摘要
我们通过确立神经正切核（NTK）与最大均值差异（MMD）之间的新联系，提出了一种新颖的神经网络最大均值差异（MMD）统计量。该联系使我们能开发一种计算高效且内存高效的方法来计算 MMD 统计量并执行基于 NTK 的双样本检验，以应对 MMD 统计量长期存在的内存与计算复杂度挑战，这对在线实施以同化新样本至关重要。理论上，此类联系使我们能通过借鉴核 MMD 的现有理论来理解 NTK 检验统计量的性质，如执行双样本检验时的第一类错误与检验功效。在合成与真实世界数据集上的数值实验验证了理论并展示了所提 NTK-MMD 统计量的有效性。
引用
@article{arxiv.2106.03227,
title = {Neural Tangent Kernel Maximum Mean Discrepancy},
author = {Xiuyuan Cheng and Yao Xie},
journal= {arXiv preprint arXiv:2106.03227},
year = {2021}
}