SafePredict:一种利用拒绝机制保证正确性的机器学习元算法
机器学习
2017-11-10 v2 人工智能
统计理论
统计理论
摘要
SafePredict 是一种新颖的元算法,可与任何基础预测算法协同处理在线数据,通过允许拒绝机制来保证任意选定的正确率 。允许拒绝意味着该元算法偶尔可以拒绝输出基础算法生成的预测,从而使未拒绝预测的错误率不超过 。SafePredict 的错误界限不依赖于对数据分布或基础预测器的任何假设。当基础预测器恰好不超过目标错误率 时,SafePredict 仅拒绝有限次。当基础预测器的错误率随时间变化时,SafePredict 采用一种权重转移启发式策略来适应这些变化,在不知道变化何时发生的情况下仍能保持正确性保证。实验结果表明: SafePredict 与基于置信度的 SOTA 拒绝机制相比表现更优,后者无法提供稳健的错误保证; 将 SafePredict 与此类拒绝机制结合,在许多情况下可进一步减少拒绝次数。我们的软件(目前用 Python 编写)包含在补充材料中。
关键词
引用
@article{arxiv.1708.06425,
title = {SafePredict: A Meta-Algorithm for Machine Learning That Uses Refusals to Guarantee Correctness},
author = {Mustafa A. Kocak and David Ramirez and Elza Erkip and Dennis E. Shasha},
journal= {arXiv preprint arXiv:1708.06425},
year = {2017}
}
备注
Submitted to IEEE Transactions on Pattern Analysis and Machine Intelligence, August 2017