NAS-X：基于扭曲的神经自适应平滑方法
机器学习
2023-10-31 v2 人工智能
机器学习
摘要
序列潜变量模型（SLVMs）是统计学与机器学习中的基本工具，在从医疗健康到神经科学等领域均有应用。随着其灵活性增强，解析推断与模型学习可能变得困难，从而需要近似方法。本文提出基于扭曲的神经自适应平滑（NAS-X），该方法通过将重加权唤醒-睡眠（RWS）扩展到序列场景，利用平滑序列蒙特卡洛（SMC）来估计难处理的后验期望。结合 RWS 与平滑 SMC 使 NAS-X 能够提供低偏差、低方差的梯度估计，并拟合离散与连续潜变量模型。我们阐明了 NAS-X 相对于先前方法的理论优势，并在多种任务中通过实验探究这些优势，包括一个针对神经元动力学机制模型的极具挑战性的应用。这些实验表明，NAS-X 在推断与模型学习上大幅优于先前基于 VI 和 RWS 的方法，实现了更低的参数误差与更紧的似然界。
引用
@article{arxiv.2308.14864,
title = {NAS-X: Neural Adaptive Smoothing via Twisting},
author = {Dieterich Lawson and Michael Li and Scott Linderman},
journal= {arXiv preprint arXiv:2308.14864},
year = {2023}
}
备注
Updating for clarity and adding new baselines