从像素热启动：用于中文语言建模的低分辨率视觉词元

大型语言模型通常将中文字符表示为离散的基于索引的词元，很大程度上忽略了其视觉形式。对于表意文字系统，视觉结构承载着语义和语音信息，这可能有助于预测。我们研究了低分辨率视觉输入是否可以作为字符级建模的替代方案。我们的解码器接收单个字符的灰度图像，分辨率低至8×8像素，而非词元ID。值得注意的是，这些输入达到了39.2%的准确率，与基于索引的基线39.1%相当。这种低资源设置还表现出显著的热启动效应：在总训练量的0.4%时，准确率就达到了12%以上，而基于索引的模型则滞后在6%以下。总体而言，我们的结果表明，极简的视觉结构可以为中文语言建模提供稳健且高效的信号，为字符表示提供了一种补充传统基于索引方法的替代视角。