计算约束下大推理模型的安全性与推理能力评估
人工智能
2025-09-24 v1
摘要
测试时计算扩展已展示出通过生成更长思维链（CoT）序列来提升推理语言模型性能的能力。然而，这种性能提升伴随着显著的计算成本增加。在本工作中，我们研究两种计算约束策略：（1）推理长度约束和（2）模型量化，作为降低推理模型计算需求并研究其对安全性性能影响的方法。具体而言，我们探索两种将计算约束应用于推理模型的途径：（1）基于长度控制策略优化（LCPO）的强化学习方法对推理模型进行微调，以满足用户定义的 CoT 推理长度；（2）应用量化以在用户定义的计算约束内最大化 CoT 序列的生成。此外，我们研究了计算效率与模型安全性之间的权衡。
引用
@article{arxiv.2509.18382,
title = {Evaluating the Safety and Skill Reasoning of Large Reasoning Models Under Compute Constraints},
author = {Adarsha Balaji and Le Chen and Rajeev Thakur and Franck Cappello and Sandeep Madireddy},
journal= {arXiv preprint arXiv:2509.18382},
year = {2025}
}