面向多任务学习的任务投影超维计算
信号处理
2020-04-30 v1
摘要
受大脑启发的超维（Hyperdimensional, HD）计算是低功耗设计领域中一种新兴的认知任务处理技术。作为一种快速学习且高能效的计算范式，HD 计算已在许多实际应用中展现出巨大成功。然而，在多个任务上增量训练的 HD 模型会受到灾难性遗忘的负面影响，模型遗忘从先前任务中学到的知识，仅关注当前任务。据我们所知，尚未有研究探讨将多任务学习应用于 HD 计算的可行性。本文提出任务投影超维计算（Task-Projected Hyperdimensional Computing, TP-HDC），通过利用超空间中的冗余维度使 HD 模型同时支持多个任务。为减轻不同任务间的干扰，我们将每个任务投影到独立的子空间中进行学习。与基线方法相比，我们的方法高效利用了超空间中未使用的容量，在可忽略的内存开销下平均准确率提升了 12.8%。
引用
@article{arxiv.2004.14252,
title = {Task-Projected Hyperdimensional Computing for Multi-Task Learning},
author = {Cheng-Yang Chang and Yu-Chuan Chuang and An-Yeu Wu},
journal= {arXiv preprint arXiv:2004.14252},
year = {2020}
}
备注
To be published in 16th International Conference on Artificial Intelligence Applications and Innovations