面向智能体的特征工程：用于可解释机器学习监控的自适应认知架构
机器学习
2025-06-12 v1 人工智能
摘要
在生产环境中监控机器学习（ML）模型至关重要，然而传统方法通常产生冗长、解释性低的输出，阻碍有效决策。我们提出了一种用于 ML 监控的认知架构，将特征工程原理应用于基于大语言模型（LLM）的智能体，显著增强了监控输出的可解释性。我们的方法核心是一个决策过程模块，通过三个关键步骤模拟特征工程：重构（Refactor）、分解（Break Down）和编译（Compile）。重构步骤改进数据表示以更好地捕获特征语义，使 LLM 能够专注于监控数据的显著方面，同时减少噪声和无关信息。分解将复杂信息拆解以进行详细分析，编译将子洞察整合为清晰、可解释的输出。这一过程导向了更确定性的规划方法，减少了对 LLM 生成规划的依赖，而后者有时可能不一致且过于笼统。特征工程驱动的规划与选择性 LLM 利用的结合产生了一个稳健的决策支持系统，能够提供高度可解释和可操作的洞察。使用多个 LLM 的实验证明了我们方法的有效性，在多个领域相比各种基线实现了显著更高的准确率。
引用
@article{arxiv.2506.09742,
title = {Feature Engineering for Agents: An Adaptive Cognitive Architecture for Interpretable ML Monitoring},
author = {Gusseppe Bravo-Rocca and Peini Liu and Jordi Guitart and Rodrigo M Carrillo-Larco and Ajay Dholakia and David Ellison},
journal= {arXiv preprint arXiv:2506.09742},
year = {2025}
}
备注
Accepted at AAMAS 2025