基于囊积率与曼杰曲率的方法用于大型语言模型相似性评估
计算与语言
2025-04-09 v2
摘要
大型语言模型(LLM)的兴起引发了关于数据和模型使用不当的担忧。例如，对现有LLM进行微小修改即可声称开发新模型，导致模型复制和所有权权利侵犯问题。本文引入一种新型指标，用于量化LLM相似性，利用囊积率曲线和曼杰曲率差异。全面实验验证了方法性能，显示其优于基线方法且能跨模型和领域泛化。进一步表明该方法可用于检测模型复制，强化LLM的原创性和完整性。代码已公开于https://github.com/zyttt-coder/LLM_similarity。
引用
@article{arxiv.2504.04216,
title = {A Perplexity and Menger Curvature-Based Approach for Similarity Evaluation of Large Language Models},
author = {Yuantao Zhang and Zhankui Yang},
journal= {arXiv preprint arXiv:2504.04216},
year = {2025}
}
备注
13 pages