机器引导，人类监督：基于全局解释的交互式学习
机器学习
2020-09-22 v1 人工智能
机器学习
摘要
我们提出了一种新颖的交互式学习策略——解释引导学习（XGL），其中机器引导人类监督者选择对分类器具有信息量的样本。引导通过全局解释提供，全局解释总结了分类器在实例空间不同区域上的行为并暴露其缺陷。与其他由机器发起并依赖局部解释的解释性交互式学习策略相比，XGL 旨在对机器提供的解释夸大分类器质量的情况保持鲁棒。此外，XGL 利用全局解释打开人类发起交互的黑箱，使监督者能够选择挑战所学模型的信息量样本。通过联系交互式机器教学，我们从理论上证明全局解释是引导监督者的一种可行方法。我们的仿真表明，解释引导学习避免了夸大模型质量，并且在模型质量方面与机器发起和人类发起的交互式学习策略表现相当或更好。
引用
@article{arxiv.2009.09723,
title = {Machine Guides, Human Supervises: Interactive Learning with Global Explanations},
author = {Teodora Popordanoska and Mohit Kumar and Stefano Teso},
journal= {arXiv preprint arXiv:2009.09723},
year = {2020}
}
备注
Preliminary version. Submitted to AAAI'21