期望信息增益的多层蒙特卡洛估计

期望信息增益是贝叶斯实验设计的一个重要质量准则，它衡量通过收集相关数据 $Y$ 平均能减少多少关于不确定感兴趣量 $\theta$ 的信息熵。然而，估计期望信息增益一直被认为计算上具有挑战性，因为它被定义为一个嵌套期望，具有关于 $Y$ 的外层期望和关于 $\theta$ 的内层期望。事实上，标准的嵌套蒙特卡洛方法需要总计 $O(\varepsilon^{-3})$ 的计算代价才能达到 $\varepsilon$ 的均方根精度。在本文中，我们应用多层蒙特卡洛（MLMC）方法开发了一种估计期望信息增益的高效算法。准确地说，我们引入了针对期望信息增益的对偶多层蒙特卡洛估计量，并给出了数据模型的一个充分条件，在该条件下对偶多层蒙特卡洛估计量的对偶性质得到充分利用，从而实现 $O(\varepsilon^{-2})$ 的最优复杂度。此外，我们讨论了如何在多层蒙特卡洛估计量中引入重要性采样技术以避免算术下溢。数值实验表明，相较于嵌套蒙特卡洛方法，在一个简单测试用例和一个更现实的药代动力学模型上均实现了可观的计算代价节省。