自修复机器学习：一种面向真实世界环境自主适应的框架

真实世界的机器学习系统经常因底层数据生成过程 (DGP) 的分布偏移而遭遇模型性能下降。现有的应对偏移的方法，如概念漂移适应，受限于其与原因无关的特性。通过从一组预定义的动作中选择，此类方法隐含地假设模型退化的原因与应采取何种动作无关，从而限制了其选择适当适应的能力。在本文中，我们提出了一种替代范式来克服这些局限性，称为自修复机器学习 (SHML)。与先前的方法相反，SHML 自主诊断退化的原因，并提出基于诊断的纠正措施。我们将 SHML 形式化为一个在适应动作空间上的优化问题，以最小化在偏移 DGP 下的期望风险。我们为自修复系统引入了一个理论框架，并构建了一个智能体自修复解决方案 H-LLM，该方案利用大型语言模型通过推理 DGP 的底层结构来执行自我诊断，并通过提出和评估纠正动作来执行自我适应。在实证方面，我们分析了 H-LLM 的不同组件，以理解其为何以及何时有效，展示了自修复 ML 的潜力。