基于条件密度估计和信息性数据的贝叶斯最优实验设计加速方法
计算与语言
2025-07-22 v1 机器学习
摘要
实验设计(DOEs)是一种基本的科学方法,为研究人员提供系统性原则和技术,以提高实验结果的有效性、可靠性和效率。在本研究中,我们在贝叶斯框架内探索了最优实验设计,利用贝叶斯定理将实用期望——原表示为嵌套双积分——重新表述为独立双积分形式,显著提高了数值效率。为了进一步加速所提出实用期望的计算,我们采用条件密度估计来近似两个高斯随机场的比率,而协方差则作为选择准则,用于在模型拟合和积分评估期间识别信息性数据集。在以低仿真效率和原始数据获取高成本为特征的情景中,关键挑战如替代模型、失效概率估计和参数推断在贝叶斯实验设计框架内得到系统性重构。所提出方法的有效性通过理论分析和实际应用得到验证,表明其在提高实验效率和不确定性下的决策方面具有潜力。
引用
@article{arxiv.2507.15236,
title = {SOI Matters: Analyzing Multi-Setting Training Dynamics in Pretrained Language Models via Subsets of Interest},
author = {Shayan Vassef and Amirhossein Dabiriaghdam and Mohammadreza Bakhtiari and Yadollah Yaghoobzadeh},
journal= {arXiv preprint arXiv:2507.15236},
year = {2025}
}