Refine Thought：一种用于嵌入模型推理的测试时推理方法
计算与语言
2025-11-19 v1 人工智能
信息检索
摘要
我们提出了 RT（Refine Thought），一种能够增强文本嵌入模型语义推理能力的方法。该方法通过运行文本嵌入模型的多次前向传播来获得最终的语义表示。实验表明，RT 在 BRIGHT 的语义推理任务以及人岗匹配基准 PJBenchmark1 上取得了显著改进，同时在 C-MTEB 等通用语义理解任务上保持了一致的性能。我们的结果表明，RT 之所以有效，是因为它进一步激活了仅解码器文本嵌入模型（例如 Qwen3-Embedding-8B）在预训练期间学习到的语义推理能力。RT 可被视为一种测试时推理方法。
引用
@article{arxiv.2511.13726,
title = {Refine Thought: A Test-Time Inference Method for Embedding Model Reasoning},
author = {Guangzhi Wang and Kai Li and Yinghao Jiao and Zhi Liu},
journal= {arXiv preprint arXiv:2511.13726},
year = {2025}
}