Continual Inference:一个用于在 PyTorch 中实现深度神经网络高效在线推理的库
机器学习
2023-06-28 v1 人工智能
摘要
我们介绍了 Continual Inference,一个用于在 PyTorch 中实现持续推理网络(CINs)的 Python 库。CINs 是一类专为在线和批处理场景中的高效推理而设计的神经网络。我们提供了对 CINs 及其实际实现的全面介绍和指南,并为组合现代深度学习的复杂模块提供了最佳实践和代码示例。Continual Inference 可通过 Python 包索引和 \url{www.github.com/lukashedegaard/continual-inference} 轻松下载。
引用
@article{arxiv.2204.03418,
title = {Continual Inference: A Library for Efficient Online Inference with Deep Neural Networks in PyTorch},
author = {Lukas Hedegaard and Alexandros Iosifidis},
journal= {arXiv preprint arXiv:2204.03418},
year = {2023}
}
备注
1- pages, 5 figures, 1 table