稀疏动作发现：面向智能体 LLM 的贪心策略

现代智能体系统在行动空间极大的环境中运行，例如拥有数千个可用 API 或检索操作的工具增强型语言模型。尽管如此，实证证据表明，只有一小部分动作在给定部署中对性能具有实际影响。以此为动机，我们研究了一种情境线性奖励模型，其中动作相关性由结构化稀疏性假设支配：仅有少数动作在潜在状态下具有非零效应。我们将动作发现形式化为块稀疏恢复问题，并分析了一个受正交匹配 pursuit（OMP）启发的贪心算法。在信道一致性、信号强度和动作覆盖性的标准假设下，我们证明该贪心程序在高概率下能够精确恢复相关动作集合，其所需样本数仅在稀疏性水平和潜在维度之间呈多项式增长，而在总动作数之间仅呈对数增长。我们进一步提供了对重新拟合参数的估计误差保证，并表明所得决策规则对新的潜在状态具有 near-optimal 性能。为此，我们建立了信息论下界，表明稀疏性和充分覆盖性是可tractability 的必要条件。总体而言，我们的研究确定了稀疏动作发现是大规模动作决策背后基本原则，为智能体系统中的动作修剪提供了理论基础。