全局优化策略能否优于短视策略用于贝叶斯参数估计?
机器学习
2020-07-02 v1 计算复杂性
最优化与控制
机器学习
摘要
贝叶斯自适应推断广泛用于心理物理学中以估计心理测量参数。大多数应用采用短视的一步向前策略,仅优化即时效用。一种普遍预期是,显式地在某一时域内优化的全局优化策略可大幅改善短视策略的性能。由于比较短视与全局策略的研究有限,该预期未受挑战,研究者仍在大量投入以实现全局优化。这真的值得吗?本文基于实验仿真比较多种模型参数估计中全局与短视策略的性能提升与计算负担,给出了一个令人沮丧的答案。研究发现,除最紧邻的后续步骤(短视策略的)外,全局策略中增加的时域对最优全局效用的提升贡献可忽略不计。本文推导数学递推以证明,每增加一步时域所带来的效用提升贡献随着该步向未来推远而快速衰减。
引用
@article{arxiv.2007.00373,
title = {Can Global Optimization Strategy Outperform Myopic Strategy for Bayesian Parameter Estimation?},
author = {Juanping Zhu and Hairong Gu},
journal= {arXiv preprint arXiv:2007.00373},
year = {2020}
}