基于高斯的方法与越界运行时监控的联合
机器学习
2024-10-10 v1
摘要
由于神经网络即使在高置信度下也可能做出错误预测，因此在运行时监控其行为非常重要，尤其是在自动驾驶等安全关键领域。在本文中，我们结合了先前基于观察隐藏神经元激活值的监控方法的思想。具体而言，我们结合了基于高斯的方法（观察每个被监控神经元的当前值是否与训练期间观察到的典型值相似）和越界监控器（创建可接受激活值的聚类，从而考虑神经元值的相关性）。我们的实验评估了所取得的改进。
引用
@article{arxiv.2410.06051,
title = {Gaussian-Based and Outside-the-Box Runtime Monitoring Join Forces},
author = {Vahid Hashemi and Jan Křetínský and Sabine Rieder and Torsten Schön and Jan Vorhoff},
journal= {arXiv preprint arXiv:2410.06051},
year = {2024}
}