基于神经网络相干光传输均衡器：注意事项与陷阱

本文对相干光通信系统中高效神经网络（NN）非线性信道均衡器开发相关的关键挑战和常见设计注意事项进行了详细的多方面分析。我们的研究旨在指导该领域的研究人员和工程师。我们首先阐明了用于评估均衡器性能的度量指标，并将其与 NN 均衡器训练中所用的损失函数相关联。讨论了信道传播模型精度与均衡器性能之间的关系并进行了量化。接下来，我们评估了用于生成数值和实验数据的伪随机比特序列的阶数，以及 DAC 存储限制，在训练和验证阶段对 NN 均衡器运行的影响。最后，我们考察了过拟合限制、使用分类而非回归的差异以及批大小相关特性的关键问题。我们最后给出了以数字信号处理（DSP）术语评估均衡器复杂度的解析表达式，并将度量指标与处理延迟相关联。