数据新鲜度如何影响实时监督学习?
网络与互联网体系结构
2022-09-27 v2 信息论
机器学习
math.IT
摘要
本文分析数据新鲜度对实时监督学习的影响,其中神经网络基于在传感节点(如相机或激光雷达)观测到的特征(如视频帧)训练以推断时变目标(如前方车辆位置)。人们可能预期实时监督学习性能随特征变陈旧而单调退化。利用信息论分析,我们表明若特征与目标数据序列可近似为马尔可夫链则为真;若数据序列远离马尔可夫性则不为真。因此,实时监督学习的预测误差是信息年龄(Age of Information, AoI)的函数,该函数可能非单调。我们开展若干实验以阐明预测误差的单调与非单调行为。为实时最小化推断误差,我们提出发送特征的新型“从缓冲区选择”模型,其比早期研究使用的“按需生成”模型更一般。通过利用 Gittins 与 Whittle 指数,我们开发了低复杂度调度策略以最小化推断误差,并发现了 Gittins 指数理论与信息年龄(AoI)最小化间的新联系。这些调度结果适用于(i)最小化一般 AoI 函数(单调或非单调)以及(ii)一般特征传输时间分布。我们给出数据驱动评估以阐明所提调度算法之益处。
引用
@article{arxiv.2208.06948,
title = {How Does Data Freshness Affect Real-time Supervised Learning?},
author = {Md Kamran Chowdhury Shisher and Yin Sun},
journal= {arXiv preprint arXiv:2208.06948},
year = {2022}
}
备注
21 Pages, 12 figures, Part of this work has been accepted by ACM MobiHoc, 2022