用于变点分析的顺序梯度下降与拟牛顿法
机器学习
2022-10-25 v1 机器学习
摘要
检测变点的一种常见方法是在变点可能的数量与位置上最小化代价函数。该框架包含若干成熟方法，如惩罚似然与最小描述长度。这种方法需要在数据集的不同分段上反复求解代价值，当（i）数据序列较长且（ii）求解代价值涉及非平凡优化问题时，可能非常耗时。本文提出一种新的顺序方法（SE），可与梯度下降（SeGD）和拟牛顿法（SeN）结合以高效求解代价值。其核心思想是利用前步信息更新代价值，而无需重新优化目标函数。新方法被应用于广义线性模型与惩罚回归中的变点检测。数值研究表明，新方法可比剪枝精确线性时间（PELT）方法快数个数量级，且不损失估计精度。
引用
@article{arxiv.2210.12235,
title = {Sequential Gradient Descent and Quasi-Newton's Method for Change-Point Analysis},
author = {Xianyang Zhang and Trisha Dawn},
journal= {arXiv preprint arXiv:2210.12235},
year = {2022}
}