张量核心单元模型中的并行扫描算法
计算机视觉与模式识别
2024-12-18 v2 机器学习
摘要
我们在张量核心单元（Tensor Core Unit, TCU）计算模型中提出了并行扫描（前缀和）算法。TCU模型假设两个固定大小矩阵之间的乘法为基本操作。在(s^2, l)-TCU模型中，我们证明该算法对于大小为n的输入，深度最多为2⌊log_s(n)⌋，在假设p个张量核心单元的情况下运行时间为O(n(1 + l/s^2)/p + (s^2 + l)log_s(n))。等价地，该算法执行O(n/s^2)个固定大小为s的平方矩阵乘法。
引用
@article{arxiv.2411.17886,
title = {The Context of Crash Occurrence: A Complexity-Infused Approach Integrating Semantic, Contextual, and Kinematic Features},
author = {Meng Wang and Zach Noonan and Pnina Gershon and Bruce Mehler and Bryan Reimer and Shannon C. Roberts},
journal= {arXiv preprint arXiv:2411.17886},
year = {2024}
}