扩展线性回归：一种通过曲线下面积最小化损失的卡尔曼滤波方法
机器学习
2023-08-24 v1 机器学习
摘要
本研究通过集成卡尔曼滤波并分析曲线面积来最小化损失，从而增强线性回归模型。目标是利用随机梯度下降（SGD）更新权重以建立最优线性回归方程。我们的方法涉及逐步过程，从用户定义参数开始。线性回归模型用 SGD 训练，分别跟踪权重与损失并最终压缩合并。随后基于权重与损失数组训练卡尔曼滤波器以预测下一组整合权重。预测由输入均值与权重相乘得出，评估损失以形成权重-损失曲线。曲线方程由两点式导出，曲线下面积通过积分计算。具有最小面积的线性回归方程成为用于预测的最优曲线。益处包括避免通过梯度下降持续更新权重，以及可处理部分数据集，不同于需要完整数据集的方法。但应考虑计算复杂度。卡尔曼滤波的精度在超出一定预测范围后可能下降。
引用
@article{arxiv.2308.12280,
title = {Extended Linear Regression: A Kalman Filter Approach for Minimizing Loss via Area Under the Curve},
author = {Gokulprasath R},
journal= {arXiv preprint arXiv:2308.12280},
year = {2023}
}