AxBERT：由联想知识网络驱动的可解释中文拼写纠错方法
计算与语言
2025-03-05 v1 机器学习
摘要
深度学习在各种机器学习任务中展现出优异的性能。然而，深度学习模型的不可解释性严重限制了其在文本纠错等需要特征解释的领域的应用。因此，本文提出了一种新颖的可解释深度学习模型（命名为 AxBERT），通过与联想知识网络（Associative Knowledge Network, AKN）对齐来进行中文拼写纠错。其中，AKN 基于汉字间的共现关系构建，相较于不可解释的 BERT 逻辑，它代表了可解释的统计逻辑。此外，引入了 BERT 与 AKN 之间的转换矩阵，用于对齐和调节 BERT 中的注意力组件。同时，设计了一个权重调节器来调整 BERT 中的注意力分布，以恰当地建模句子语义。在 SIGHAN 数据集上的实验结果表明，AxBERT 取得了卓越的性能，与基线相比在模型精度上尤为突出。我们的可解释性分析连同定性推理，能够有效说明 AxBERT 的可解释性。
引用
@article{arxiv.2503.02255,
title = {AxBERT: An Interpretable Chinese Spelling Correction Method Driven by Associative Knowledge Network},
author = {Fanyu Wang and Hangyu Zhu and Zhenping Xie},
journal= {arXiv preprint arXiv:2503.02255},
year = {2025}
}