识别开放世界中的未知未知：用于引导探索的表示与策略
人工智能
2016-12-13 v3
摘要
部署在现实世界中的预测模型可能会以高置信度将错误标签分配给实例。此类错误或未知未知 (unknown unknowns) 根源于模型的不完整性，通常是由于训练数据与测试时遇到的情况不匹配所致。由于模型对这些错误视而不见，需要来自预言机 (oracle) 的输入来识别这些失效。在本文中，我们形式化并解决了针对任何给定预测模型的未知未知的知情发现问题，其中未知未知是由于训练数据中的系统性偏差而产生的。我们提出了一种与模型无关的方法论，该方法利用来自预言机的反馈来既识别未知未知，又智能地引导发现过程。我们采用两阶段方法，首先根据实例的特征相似性和预测模型分配的置信度分数将数据组织成多个分区，然后利用探索 - 利用 (explore-exploit) 策略在这些分区中发现未知未知。我们通过改变不同应用中未知未知的根本原因来展示了我们框架的有效性。据我们所知，本文提出了首个解决预测模型未知未知发现问题的算法方法。
引用
@article{arxiv.1610.09064,
title = {Identifying Unknown Unknowns in the Open World: Representations and Policies for Guided Exploration},
author = {Himabindu Lakkaraju and Ece Kamar and Rich Caruana and Eric Horvitz},
journal= {arXiv preprint arXiv:1610.09064},
year = {2016}
}
备注
To appear in AAAI 2017; Presented at NIPS Workshop on Reliability in ML, 2016