Re-TASK:从能力、技能与知识视角重新审视 LLM 任务
计算与语言
2025-06-23 v3
摘要
思维链范式已成为使用大语言模型解决复杂问题的关键方法。然而,其在领域特定任务上的应用仍具有挑战性,因为 LLM 经常无法准确分解任务或有效执行子任务。本文提出了 Re-TASK 框架,一个新的理论模型,从能力、技能和知识视角重新审视 LLM 任务,借鉴了布卢姆教育目标分类学和知识空间理论的原则。虽然 CoT 提供了以工作流为中心的任务视角,但 Re-TASK 引入了学习链范式,强调任务对特定能力项的依赖,进一步分解为其构成的知识和技能组件。为解决 CoT 的失败,我们提出了一种 Re-TASK 提示策略,通过定向知识注入和技能适应来强化任务相关能力。在多个领域的实验证明了 Re-TASK 的有效性。特别地,我们在法律任务上实现了 Yi-1.5-9B 提升 45.00% 和 Llama3-Chinese-8B 提升 24.50%。这些结果突显了 Re-TASK 显著提升 LLM 性能及其在专业领域应用潜力的可能性。我们在 https://github.com/Uylee/Re-TASK 发布了代码和数据。
引用
@article{arxiv.2408.06904,
title = {Re-TASK: Revisiting LLM Tasks from Capability, Skill, and Knowledge Perspectives},
author = {Zhihu Wang and Shiwan Zhao and Yu Wang and Heyuan Huang and Sitao Xie and Yubo Zhang and Jiaxin Shi and Zhixing Wang and Hongyan Li and Junchi Yan},
journal= {arXiv preprint arXiv:2408.06904},
year = {2025}
}
备注
ACL 2025 Findings; First three authors contributed equally