可解释贝叶斯优化

信息物理系统的手动参数调优是一种常见做法，但十分耗费人力。贝叶斯优化（BO）提供了一种自动化的替代方案，然而其黑盒性质降低了信任度并限制了人机协作的BO系统调优。由于缺乏解释，专家难以解读BO给出的推荐。本文针对信息物理系统研究事后BO可解释性问题。我们提出了TNTRules（Tune-No-Tune Rules），这是一种新颖的算法，可为BO推荐提供全局和局部解释。TNTRules生成可操作的规则和可视化图，识别最优解的边界与范围，以及潜在的替代解。与现有的可解释AI（XAI）方法不同，TNTRules专门针对BO设计，通过方差剪枝技术和层次凝聚聚类对不确定性进行编码。多目标优化方法使得解释质量最大化。我们使用既有的XAI评估指标（正确性、完整性和紧凑性）对TNTRules进行评估，并将其与适配的基线方法进行比较。结果表明，TNTRules生成高保真、紧凑且完整的解释，在5个多目标测试函数和2个超参数调优问题上显著优于三个基线方法。