可解释的主动学习
机器学习
2018-06-26 v2 机器学习
摘要
主动学习长期以来一直是机器学习中的研究课题。然而，随着日益复杂且不透明的模型成为标准实践，主动学习的过程也变得更加不透明。对于解释主动学习策略可能正在探索哪些特定趋势和模式，目前鲜有研究。本研究扩展了局部可解释模型不可知解释(Local Interpretable Model-agnostic Explanations, LIME)框架，为主动学习推荐提供解释。我们演示了如何使用 LIME 为主动学习策略生成局部忠实解释，以及如何利用这些解释来理解不同模型和数据集如何随时间探索问题空间。为了量化主动学习策略在查询空间区域时各子群之间的差异，我们引入了不确定度偏差(基于不同影响)的概念，以衡量一个子群与另一个子群之间模型预测置信度的差异。使用不确定度偏差度量，我们表明查询解释准确反映了主动学习查询的子群焦点，从而当具有相似不确定度来源的数据点的不确定度偏差被消除时，能够对正在学习的内容提供可解释的解释。我们证明该技术可应用于追踪用户定义聚类或基于不确定度来源自动生成的聚类上的不确定度偏差。
引用
@article{arxiv.1708.00049,
title = {Interpretable Active Learning},
author = {Richard L. Phillips and Kyu Hyun Chang and Sorelle A. Friedler},
journal= {arXiv preprint arXiv:1708.00049},
year = {2018}
}
备注
13 pages, 8 figures, presented at 2018 Conference on Fairness, Accountability, and Transparency (FAT*), New York, New York, USA. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:49-61, 2018