人类协作可解释贝叶斯优化中的循环交互
机器学习
2024-10-15 v5 人机交互
机器学习
摘要
与许多优化器一样，贝叶斯优化常因不透明性而难以获得用户信任。尽管已有开发以人为中心的优化器的尝试，但它们通常假设用户知识明确且无误差，主要将用户用作优化过程的监督者。我们放宽这些假设，借助所提出的协作可解释贝叶斯优化（CoExBO）框架，建立一种更平衡的人-AI 伙伴关系。CoExBO 不显式要求用户提供知识模型，而是采用偏好学习将人类洞察无缝整合进优化中，从而产生与用户偏好共鸣的算法建议。CoExBO 在每次迭代中解释其候选选择以培养信任，使用户更清晰地掌握优化过程。此外，CoExBO 提供无伤害保证，允许用户犯错；即使面对极端对抗性干预，算法也能渐近收敛于朴素贝叶斯优化。我们通过锂离子电池设计中的人-AI 组队实验验证了 CoExBO 的有效性，突显了相较传统方法的显著改进。代码见 https://github.com/ma921/CoExBO。
引用
@article{arxiv.2310.17273,
title = {Looping in the Human Collaborative and Explainable Bayesian Optimization},
author = {Masaki Adachi and Brady Planden and David A. Howey and Michael A. Osborne and Sebastian Orbell and Natalia Ares and Krikamol Muandet and Siu Lun Chau},
journal= {arXiv preprint arXiv:2310.17273},
year = {2024}
}
备注
Accepted at AISTATS 2024, 24 pages, 11 figures