探索贝叶斯惊奇在非侵入式负荷监测中防止过拟合与预测模型性能的应用
人工智能
2020-09-17 v1 信号处理
摘要
非侵入式负荷监测(NILM)是一个专注于仅基于聚合信号分离系统中各组成电气负荷的研究领域。大量的计算资源和研究时间被用于训练模型,通常尽可能使用多的数据,这或许源于一种先入为主的观念,即更多数据等同于更准确的模型和性能更好的算法。何时才算完成了足够的先验训练?NILM算法何时遇到了新的、未见过的数据?本工作应用贝叶斯惊奇的概念来回答这些对监督和无监督算法都十分重要的问题。我们量化了在一段观测窗口前后,预测分布(称为后测惊奇)以及转移概率(称为转移惊奇)之间的惊奇程度。我们比较了NILMTK支持的几种基准NILM算法的性能,以建立关于这两种组合惊奇度量的有用阈值。我们通过探究一种流行的隐马尔可夫模型作为惊奇阈值函数的性能,验证了转移惊奇的使用。最后,我们探索使用惊奇阈值作为一种正则化技术,以避免跨数据集性能中的过拟合。尽管此处讨论的特定惊奇阈值的普适性在没有进一步测试的情况下可能存疑,但这项工作提供了明确证据,表明存在模型性能相对于数据集规模的收益递减点。这对未来的模型开发、数据集获取以及在部署期间辅助模型灵活性具有重要意义。
引用
@article{arxiv.2009.07756,
title = {Exploring Bayesian Surprise to Prevent Overfitting and to Predict Model Performance in Non-Intrusive Load Monitoring},
author = {Richard Jones and Christoph Klemenjak and Stephen Makonin and Ivan V. Bajic},
journal= {arXiv preprint arXiv:2009.07756},
year = {2020}
}