用于服务发现的检索增强生成：分块策略与基准测试

集成多个（子）系统对于创建高级信息系统至关重要。在集成动态环境时会出现困难，例如在设计时集成尚不存在的服务。传统上，这通过使用提供端点 API 文档的注册中心来解决。大语言模型已显示出能够基于此文档自动创建系统集成（例如作为服务组合）的能力，但由于输入 token 限制，尤其是针对全面的 API 描述，需要简洁的输入。目前，如何最好地预处理这些 API 描述尚不清楚。在本文中，我们 (i) 分析了检索增强生成在端点发现中的应用，以及对现有实践 OpenAPI 的分块（即预处理），以在保留最相关信息的同时减少输入 token 长度。为了进一步减少组合提示的输入 token 长度并改进端点检索，我们提出了 (ii) 一个发现智能体，它仅接收最相关端点的摘要，并按需检索规范细节。我们使用 (iii) 提出的新型服务发现基准 SOCBench-D（代表跨众多领域的一般设置）和真实世界 RestBench 基准来评估 RAG 在端点发现中的表现，首先针对不同的分块可能性和参数测量端点检索准确率。然后，我们使用相同的测试数据集评估发现智能体。原型展示了如何成功地将 RAG 用于端点发现以减少 token 数量。我们的实验表明，基于端点的方法在预处理方面优于朴素分块方法。依赖智能体显著提高了精确率，但容易降低召回率，揭示了进一步推理能力的需求。