Resident KV主张：基于主动KV压力的未来重用的一致性合同
分布式、并行与集群计算
2026-05-26 v1
摘要
KV缓存重用机制日益暴露优先级、持续时间、卸载、路由提示、调度器模式以及事件流等信息。这些机制有助于保留可重用前缀，但本身并不定义在resident KV和活跃KV无法同时容纳时，接受的未来重用状态的可移植合同。我们引入resident KV主张(resident KV claims)，这是一种将未来重用意图绑定到materialization谓词、生命周期状态、active/resident可行性结果以及主张级别遥测的一致性合同。在受控的vLLM分配器探测中，60块resident主张和70块active prefill超过80块可用KV池。Write no-admit会阻止active请求成为未来可重用状态，但仍允许active分配驱逐resident。最小vLLM原型显示，硬受保护的resident主张将这种失败模式转换为调度器可见的active拒绝，并实现直接的阻塞-主张归因。结果并非生产速度提升或新的缓存替换算法，而是一种将未报告的resident丢失转化为可重构的active/resident仲裁的运行时合同。伴随的MicroRuntime和vLLM litmus套件区分普通驱逐、软优先、write no-admit、接受硬主张、materialization失败、降级、过期、active拒绝以及trace级别的结果重建。
引用
@article{arxiv.2605.24259,
title = {Resident KV Claims: A Conformance Contract for Future Reuse under Active KV Pressure},
author = {Lukas Stepanek},
journal= {arXiv preprint arXiv:2605.24259},
year = {2026}
}
备注
20 pages, 4 figures; reproducibility artifacts linked in Appendix A