基于键条件正交变换门控(K-OTG)的多键访问控制:针对LoRA微调模型的隐藏状态 scrambling
密码学与安全
2025-12-22 v1 人工智能
摘要
我们提出了一种简单且兼容PEFT的机制,用于在指令微调语言模型中强制执行密钥访问控制。K-OTG在包含双路径语料库上进行训练:授权示例(以角色密钥前缀)学习任务输出,而未授权示例学习可见块标记。在推理时,预 lm_head 钩子对隐藏状态应用正交变换:若使用正确的密钥/角色,则逆映射恢复模型的本征基底;否则,session-ephemeral scrambler(置换、符号翻转、Householder变换)会使logits无信息可寻,系统短路至BLOCK。密钥不作为特殊标记添加,该方法与LoRA在4位基础模型上可干净组合。我们在1-3B级指令模型(Llama 3.2、Qwen2.5 1.5B)上评估了一个小时规模的协议,涵盖实用性(XSum ROUGE/BLEU、GSM8K准确率、WikiText-2困惑度)、选择性(3x3角色密钥解锁矩阵)、一次性不变性、块抑制和吞吐量。授权实用性在摘要任务上保持接近基准水平,尽管指令微调带来了适度的困惑度增加;而未授权实用性崩溃(近零序列指标,困惑度飙升),表明在没有密钥的情况下几乎不可用。解锁矩阵呈对角优势(高目标解锁,低交叉解锁),授权块发射为0(通过鲁棒的差词列表),且贪心输出在不同nonce间完全匹配,确认正确的逆变换抵消。Python级钩子的运行开销为基准的40%每秒token数。K-OTG因此提供了一种实用的、与模型无关的方式,可在保持授权实用性的同时防止未授权使用。
引用
@article{arxiv.2512.17519,
title = {Key-Conditioned Orthonormal Transform Gating (K-OTG): Multi-Key Access Control with Hidden-State Scrambling for LoRA-Tuned Models},
author = {Muhammad Haris Khan},
journal= {arXiv preprint arXiv:2512.17519},
year = {2025}
}