FPGA 上的低精度常量参数 CNN
分布式、并行与集群计算
2019-01-16 v1 人工智能
摘要
我们报告了针对稀疏且常量参数优化的低精度 CNN 卷积层的 FPGA 实现结果。我们描述了将公因子乘法成本分摊并自动利用密集手工调优 LUT 结构的技术。我们将该方法应用于稀疏 Resnet50 模型上 Resnet 的极端情况残差块，以评估可实现的利用率和频率，并展示了极端情况块的有效性能为每芯片 131 和 23 TOP。在所有 Resnet50 卷积层的多芯片持久化实现上，投影性能为批大小 2 时每芯片 10k im/s。在按稀疏性归一化后，这比同批大小下 V100 GPU 的上界高 1.37 倍。
引用
@article{arxiv.1901.04969,
title = {Low Precision Constant Parameter CNN on FPGA},
author = {Thiam Khean Hah and Yeong Tat Liew and Jason Ong},
journal= {arXiv preprint arXiv:1901.04969},
year = {2019}
}