中文

Continual Inference:一个用于在 PyTorch 中实现深度神经网络高效在线推理的库

机器学习 2023-06-28 v1 人工智能

摘要

我们介绍了 Continual Inference,一个用于在 PyTorch 中实现持续推理网络(CINs)的 Python 库。CINs 是一类专为在线和批处理场景中的高效推理而设计的神经网络。我们提供了对 CINs 及其实际实现的全面介绍和指南,并为组合现代深度学习的复杂模块提供了最佳实践和代码示例。Continual Inference 可通过 Python 包索引和 \url{www.github.com/lukashedegaard/continual-inference} 轻松下载。

关键词

引用

@article{arxiv.2204.03418,
  title  = {Continual Inference: A Library for Efficient Online Inference with Deep Neural Networks in PyTorch},
  author = {Lukas Hedegaard and Alexandros Iosifidis},
  journal= {arXiv preprint arXiv:2204.03418},
  year   = {2023}
}

备注

1- pages, 5 figures, 1 table