基于彩票假设修剪相干集成光子神经网络
新兴技术
2021-12-15 v1 机器学习
光学
摘要
基于奇异值分解的相干集成光子神经网络(SC-IPNNs)占用面积大,训练与推理静态功耗高,且无法使用常规 DNN 剪枝技术进行剪枝。我们利用彩票假设提出首个面向 SC-IPNNs 的硬件感知剪枝方法,通过最小化权重参数数量缓解这些挑战。我们剪枝一个基于多层感知机的 SC-IPNN,结果表明多达 89% 的相位角(对应 SC-IPNNs 中的权重参数)可被剪枝,且精度损失可忽略(小于 5%),同时将静态功耗降低多达 86%。
引用
@article{arxiv.2112.07485,
title = {Pruning Coherent Integrated Photonic Neural Networks Using the Lottery Ticket Hypothesis},
author = {Sanmitra Banerjee and Mahdi Nikdast and Sudeep Pasricha and Krishnendu Chakrabarty},
journal= {arXiv preprint arXiv:2112.07485},
year = {2021}
}