光纤传输实验中神经网络均衡器的量化

研究了用于抑制双偏振光纤传输中非线性与器件失真的人工神经网络量化。在两个低复杂度神经网络均衡器应用于三项具有不同代表性光纤的 16-QAM 34.4 GBaud 传输实验中。比较了多种训练后量化与量化感知训练算法,以将神经网络的权重与激活值转换为少数比特,并结合均匀、加性 2 的幂与压扩量化。在 $\geq 5$ 比特的大位宽量化体制下,采用直通估计的量化感知训练相比未量化神经网络产生的 Q 因子代价小于 0.5 dB。在低比特位宽量化体制下,提出了一种称为压扩连续 alpha 混合量化的算法。该方法通过参数的连续分组与再训练,以及每组内从浮点表示到量化值的渐进过渡,来激进地补偿量化误差。激活值可量化为 8 比特、权重平均 1.75 比特,代价为 $\leq 0.5$~dB。若激活值量化为 6 比特,权重可量化为 3.75 比特且代价极小。神经网络的计算复杂度与所需存储大幅降低,通常超过 90\%。结果表明低复杂度神经网络可抑制光纤传输中的非线性。