安全、不可信的"携带证明"AI 智能体：迈向智能体化数据湖仓
人工智能
2025-10-13 v1 数据库
摘要
数据湖仓运行敏感工作负载，其中 AI 驱动的自动化引发了对信任、正确性和治理的担忧。我们认为，以 API 为优先、可编程的湖仓为安全-by-design 的智能体工作流提供了合适的抽象。以 Bauplan 为案例研究，我们展示了数据分支和声明式环境如何自然地扩展到智能体，从而实现可复现性和可观测性，同时减少攻击面。我们提出了一种概念验证，其中智能体使用受携带证明代码启发的正确性检查来修复数据流水线。我们的原型证明了不可信的 AI 智能体可以在生产数据上安全运行，并概述了迈向完全智能体化湖仓的路径。
引用
@article{arxiv.2510.09567,
title = {Safe, Untrusted, "Proof-Carrying" AI Agents: toward the agentic lakehouse},
author = {Jacopo Tagliabue and Ciro Greco},
journal= {arXiv preprint arXiv:2510.09567},
year = {2025}
}
备注
IEEE Big Data, Workshop on Secure and Safe AI Agents for Big Data Infrastructures