Safe-SDL：面向AI驱动自主实验室建立安全边界与控制机制
机器人学
2026-02-18 v1 人工智能
摘要
自主实验室（SDL）的出现通过将AI与机器人自动化集成，创造出集成AI以实现自主假设生成、实验和分析的闭环实验系统。虽然有望将研究时间从年份缩短到星期，但其部署引入了与传统实验室或纯数字AI不同的前所未有的安全挑战。本文提出Safe-SDL，一个为AI驱动的自主实验室建立稳健安全边界与控制机制的综合框架。我们识别并分析了关键的“从语法到安全的鸿沟”——即AI生成的在语法上正确的命令与其物理安全性含义之间的断裂——作为SDL部署的核心挑战。我们的框架通过三个协同组件来解决这一鸿沟：（1）形式化定义的运营设计域（ODDs），在数学上验证边界内约束系统行为；（2）控制屏障函数（CBFs），通过持续状态空间监控提供实时安全保证；（3）一种新型事务安全协议（CRUTD），确保数字规划与物理执行之间的原子一致性。我们通过分析现有实现（包括UniLabOS和Osprey架构），展示了这些系统如何实例化关键安全原则。针对LabSafety基准测试显示，当前基础模型 exhibit significant safety failures，表明架构安全机制而非可选。我们的框架提供理论基础和实际实施指导，为安全部署自主科学系统奠定基础，为负责任的AI驱动发现加速奠定框架。
引用
@article{arxiv.2602.15061,
title = {Safe-SDL:Establishing Safety Boundaries and Control Mechanisms for AI-Driven Self-Driving Laboratories},
author = {Zihan Zhang and Haohui Que and Junhan Chang and Xin Zhang and Hao Wei and Tong Zhu},
journal= {arXiv preprint arXiv:2602.15061},
year = {2026}
}