隐形痕迹：使用混合指纹技术识别生成式 AI 应用中的底层 LLM
机器学习
2025-02-10 v4 密码学与安全
摘要
指纹识别是指通过分析 AI 系统（如大型语言模型，LLM）的独特特征或模式来识别其底层模型的过程，类似于人类指纹。对大型语言模型（LLM）的指纹识别对于确保 AI 集成应用的安全与透明性已成为必需。虽然现有方法主要依赖对应用程序直接交互的访问来推断模型身份，但在涉及多智能体系统、频繁模型更新以及受限于模型内部访问的实际场景中，往往难以奏效。本文引入一种新型指纹框架，以整合静态指纹与动态指纹技术来应对这些挑战。该方法通过识别模型的架构特征和行为特征，使其在动态环境中能够对 LLM 进行精准且稳健的指纹识别。我们还指出了传统指纹方法在无效情形下的新型威胁情景，弥合了理论技术与实际应用之间的鸿沟。为验证该框架，我们构建了模拟真实场景的广泛评估环境，并展示了该方法在识别和监控生成式 AI 应用中 LLM 的有效性。我们的结果凸显了该框架在多样且不断演变的部署情境中的适应性。
引用
@article{arxiv.2501.18712,
title = {Invisible Traces: Using Hybrid Fingerprinting to identify underlying LLMs in GenAI Apps},
author = {Devansh Bhardwaj and Naman Mishra},
journal= {arXiv preprint arXiv:2501.18712},
year = {2025}
}