Keras Sig：在 Keras 3 上高效计算路径签名
机器学习
2025-01-16 v1 分布式、并行与集群计算
摘要
本文介绍 Keras Sig, 一个用于深度学习应用的高性能 Python 库, 用于计算路径签名。整个库构建于 Keras 3 之上, \textit{Keras Sig} 利用与 PyTorch、JAX 和 TensorFlow 等最常用深度学习后端的无缝集成。灵感来自 Kidger 和 Lyons (2021), 我们提出了一种新方法, 将签名计算重新塑造以利用 GPU 并行处理。这种调整使我们能够将训练时间缩短 55%, 相较于现有方法在直接签名计算方面实现 5 倍到 10 倍的提升, 同时保持与 CPU 类似的性能。依赖高级张量运算而非低级 C++ 代码, Keras Sig 显著减少了版本和兼容性问题, 这在深度学习库中常见, 同时在各种硬件配置下交付卓越或相当的性能。我们通过大量基准测试表明, 该方法随输入序列长度的增长而高效扩展, 在各种签名参数下保持竞争性能, 尽管对于非常大的签名维度则受内存限制。
引用
@article{arxiv.2501.08455,
title = {Keras Sig: Efficient Path Signature Computation on GPU in Keras 3},
author = {Rémi Genet and Hugo Inzirillo},
journal= {arXiv preprint arXiv:2501.08455},
year = {2025}
}