基于储备池的分类器的知识蒸馏：人体活动识别
机器学习
2025-05-30 v1 人工智能
性能
摘要
本文旨在通过引入 PatchEchoClassifier 来开发一种用于时间序列数据的节能分类器，这是一种利用被称为回声状态网络（ESN）的储备池机制的新型模型。该模型设计用于使用一维传感器信号进行人体活动识别（HAR），并结合了一个分词器以提取块级表示。为了高效训练该模型，我们提出了一种知识蒸馏框架，将知识从高容量的 MLP-Mixer 教师模型转移到轻量级的基于储备池的学生模型。在多个 HAR 数据集上的实验评估表明，我们的模型实现了超过 80% 的准确率，同时显著降低了计算成本。值得注意的是，与广泛使用的卷积基线 DeepConvLSTM 相比，PatchEchoClassifier 仅需约六分之一的浮点运算次数（FLOPS）。这些结果表明，PatchEchoClassifier 是边缘计算环境中实现实时且节能的人体活动识别的有前景的解决方案。
引用
@article{arxiv.2505.22985,
title = {Knowledge Distillation for Reservoir-based Classifier: Human Activity Recognition},
author = {Masaharu Kagiyama and Tsuyoshi Okita},
journal= {arXiv preprint arXiv:2505.22985},
year = {2025}
}
备注
23 pages,5 figures