大型语言模型的准确权重矩阵指纹
计算与语言
2026-02-17 v3
摘要
保护大型语言模型 (LLM) 的知识产权至关重要，因其训练需要巨大的资源。因此，模型所有者和第三方迫切需要确定疑似 LLM 是从零训练还是源自现有基础模型。然而，模型通常经历的后训练过程——如监督微调、持续预训练、强化学习、多模态扩展、剪枝和升级——给可靠识别带来了重大挑战。本文提出一种基于权重矩阵的无训练指纹方法。我们利用线性分配问题 (LAP) 和无偏中心化核对齐 (CKA) 相似度中和参数操纵效应，构建高度稳健且高保真的相似度度量。在60对正样本和90对负样本的全面测试集上，我们的方法对所有六种后训练类别都表现出卓越的稳健性，同时几乎没有误报风险。通过在所有分类指标上取得完美分数，我们的ethods 建立了可靠模型血统验证的坚实基础。此外，整个计算在 NVIDIA 3090 GPU 上仅需 30 秒即可完成。代码已公开于 https://github.com/LUMIA-Group/AWM。
引用
@article{arxiv.2510.06738,
title = {AWM: Accurate Weight-Matrix Fingerprint for Large Language Models},
author = {Boyi Zeng and Lin Chen and Ziwei He and Xinbing Wang and Zhouhan Lin},
journal= {arXiv preprint arXiv:2510.06738},
year = {2026}
}
备注
ICLR 2026