有益与有害的可解释机器学习

鉴于深度学习在人工智能中近期的成功，人们对机器学习理论中所扮演角色与所需解释的兴趣增加。此背景下一个独特概念是 Michie 对超强机器学习（USML）的定义。USML 体现为：向人类提供用于任务执行的符号化机器学习理论后，人类在该任务上的表现出现可测量的提升。近期一篇论文展示了机器学习逻辑理论对分类任务的有益效果，但据我们所知，尚无现有工作考察机器参与对人类学习期间理解的有害性。本文考察简单双人博弈背景下机器学习理论的可解释效果，并基于认知科学文献提出一个识别机器解释有害性的框架。该方法涉及一个由两可量化边界组成的认知窗口，并有人类试验收集的实证证据支持。我们的定量与定性结果表明，由满足认知窗口的符号化机器学习理论辅助的人类学习，其表现显著高于人类自学。结果也表明，由不满足该窗口的符号化机器学习理论辅助的人类学习，其表现显著差于无辅助的人类学习。