LLMmap：大型语言模型指纹化技术
密码学与安全
2025-02-12 v4 人工智能
摘要
我们介绍 LLMmap，这是一种面向 LLM 集成应用的首次生成式指纹化技术。LLMmap 采用主动式指纹化方式，通过发送精心设计的查询并分析响应来识别具体使用的 LLM 版本。我们的查询选择基于对 LLM 如何生成针对特定主题提示所表现出独特响应的领域专业知识。仅需 8 次交互，LLMmap 即可以超过 95% 的准确率准确识别 42 种不同的 LLM 版本。更重要的是，LLMmap 旨在跨越不同的应用层面，使其能够从各种厂商、在各种未知系统提示、随机采样超参数甚至复杂生成框架（如 RAG 或 Chain-of-Thought）下的 LLM 版本中进行识别。我们讨论了可能的缓解措施，并演示了针对资源丰富的对手，有效的对策可能具有挑战性甚至根本不可实现。
引用
@article{arxiv.2407.15847,
title = {LLMmap: Fingerprinting For Large Language Models},
author = {Dario Pasquini and Evgenios M. Kornaropoulos and Giuseppe Ateniese},
journal= {arXiv preprint arXiv:2407.15847},
year = {2025}
}
备注
Appearing in the proceedings of the 34th USENIX Security Symposium