GPU上的核运算:支持自动微分且无内存溢出
机器学习
2021-04-10 v2
摘要
KeOps库为条目由数学公式(如核矩阵与距离矩阵)给出的张量提供快速且内存高效的GPU支持。KeOps缓解了以张量为中心的库在核与几何应用中的主要瓶颈:内存消耗。它还支持自动微分,并优于标准GPU基线,包括PyTorch CUDA张量以及Halide和TVM库。KeOps将优化的C++/CUDA方案与高级语言绑定器结合:Python(Numpy与PyTorch)、Matlab和GNU R。因此,高级的“二次”代码如今可扩展至数百万样本的大型数据集,并在数秒内处理完毕。KeOps为核方法带来图形级性能,并免费发布于标准仓库(PyPi、CRAN)。为展示其通用性,我们在\url{www.kernel-operations.io}上提供了多场景教程。
引用
@article{arxiv.2004.11127,
title = {Kernel Operations on the GPU, with Autodiff, without Memory Overflows},
author = {Benjamin Charlier and Jean Feydy and Joan Alexis Glaunès and François-David Collin and Ghislain Durif},
journal= {arXiv preprint arXiv:2004.11127},
year = {2021}
}
备注
6 pages