一种可靠的人机协同时间序列异常检测框架
人机交互
2025-06-24 v4 机器学习
摘要
时间序列异常检测是众多应用（如金融、医疗和工业系统）中的关键机器学习任务。然而，即使是高性能模型也可能存在偏差等潜在问题，导致不可靠的结果和错误的置信度。虽然模型解释技术（尤其是可视化解释）通过阐明模型决策的归因提供了有价值的见解，但仍存在许多局限性——它们主要基于实例，无法在数据集上扩展，并且提供从模型到人类的单向信息，缺乏用户处理已检测问题的机制。为弥补这些不足，我们引入了HILAD，一种新颖的框架，旨在促进人类与AI之间的动态双向协作，以增强时间序列中的异常检测模型。通过我们的可视化界面，HILAD使领域专家能够大规模检测、解释和纠正意外的模型行为。我们通过使用两个模型和三个时间序列数据集的用户研究评估，证明了HILAD的有效性，它促进了更深入的模型理解、即时纠正行动和模型可靠性增强。
引用
@article{arxiv.2405.03234,
title = {A Reliable Framework for Human-in-the-Loop Anomaly Detection in Time Series},
author = {Ziquan Deng and Xiwei Xuan and Kwan-Liu Ma and Zhaodan Kong},
journal= {arXiv preprint arXiv:2405.03234},
year = {2025}
}
备注
The manuscript is currently under review