基于顺序概率比测试的有限时域内早期分类最优终止学习
机器学习
2025-01-31 v1 人工智能
摘要
时间敏感型机器学习受益于顺序概率比测试（SPRT），该方法为时间序列的早期分类提供最优终止时间。然而，在输入长度为有限的情况下（即有限时域场景），确定最优终止规则由于需要逆向归纳而变得计算密集，限制了实际应用。为此，我们引入FIRMBOUND，一个基于SPRT的框架，有效地从训练数据中估计逆向归纳的解，弥合最优终止理论与实际部署之间的鸿沟。它采用密度比估计和凸函数学习，为求解逆向归纳所必需的充分统计量和条件期望提供统计一致的估计器；因此，FIRMBOUND最小化贝叶斯风险以实现最优。此外，我们还提出了一种更快的替代方案，利用高斯过程回归，显著减少训练时间，同时保持低的部署开销，尽管可能在统计一致性方面存在妥协。实验在i.i.d.、非i.i.d.、二进制、多分类、合成和真实数据集上表明，FIRMBOUND在贝叶斯风险和速度-精度权衡方面实现了最优。进一步地，它将权衡边界推向最优，以实现可能的情况，并减少决策时间方差，确保可靠的决策。代码已公开于https://github.com/Akinori-F-Ebihara/FIRMBOUND
引用
@article{arxiv.2501.18059,
title = {Learning the Optimal Stopping for Early Classification within Finite Horizons via Sequential Probability Ratio Test},
author = {Akinori F. Ebihara and Taiki Miyagawa and Kazuyuki Sakurai and Hitoshi Imaoka},
journal= {arXiv preprint arXiv:2501.18059},
year = {2025}
}
备注
Accepted to International Conference on Learning Representations (ICLR) 2025