Clark Hash：无状态稀疏Johnson-Lindenstrauss量化用于神经嵌入
人工智能
2026-05-28 v1
摘要
Clark Hash是一种小型方法，用于节省存储神经嵌入的空间。它对每个数据库向量进行归一化，应用确定性稀疏签名Johnson-Lindenstrauss投影，裁剪结果，然后存储固定宽度标量量化码。查询保持浮点格式，并与存储的草图进行评分。在默认的384维句子嵌入设置下，Clark Hash将余弦搜索向量存储为48字节，而稠密f32存储则为1536字节。这相当于缩小了32倍。该方法无需训练 passes、已学习的码本、旋转或语料库统计即可存储新向量。我们描述了该编解码器、Rust实现，以及在29个子集中标注的9304对的多语言句子相似度评估。使用多语言MiniLM编码器，48字节的草图在STS17和STS22上的密集余弦得分的宏Pearson相关系数分别达到0.910和0.946。Clark Hash不是新的Johnson-Lindenstrauss定理，也不是近似最近邻索引的替代方案，它是一种用于紧凑嵌入存储的简单无状态编解码器。
引用
@article{arxiv.2605.28034,
title = {Clark Hash: Stateless Sparse Johnson-Lindenstrauss Quantization for Neural Embeddings},
author = {Stanislav Kirdey and Clark Labs Inc},
journal= {arXiv preprint arXiv:2605.28034},
year = {2026}
}
备注
First Autoresearch publication. Code available at https://github.com/clark-labs-inc/clark-hash. GPT-5.5 Pro was used for drafting and editing assistance