面向脑启发超维计算的自动化架构搜索
机器学习
2022-02-14 v1
摘要
本文代表了探索超维计算（HDC，一种脑启发神经网络）自动化架构搜索的首次尝试。目前，HDC 设计主要以特定应用的自适方式进行，这极大限制了其应用。此外，该方法导致精度和效率低下，表明 HDC 无法与深度神经网络竞争。在此，我们提出一项详尽研究以形式化 HDC 架构搜索空间。在该搜索空间之上，我们应用强化学习自动探索 HDC 架构。所搜索的 HDC 架构在涉及药物发现数据集和语言识别任务的案例研究中展现出有竞争力的性能。在 Clintox 数据集（试图从因毒性原因通过/未通过临床试验的已开发药物中学习特征）上，所搜索的 HDC 架构获得了最先进的 ROC-AUC 分数，比手动设计的 HDC 高 0.80%，比常规神经网络高 9.75%。在语言识别任务上也取得了类似结果，性能比常规方法高 1.27%。
引用
@article{arxiv.2202.05827,
title = {Automated Architecture Search for Brain-inspired Hyperdimensional Computing},
author = {Junhuan Yang and Yi Sheng and Sizhe Zhang and Ruixuan Wang and Kenneth Foreman and Mikell Paige and Xun Jiao and Weiwen Jiang and Lei Yang},
journal= {arXiv preprint arXiv:2202.05827},
year = {2022}
}