发现并学习黑箱 AI 能力的概率模型
人工智能
2025-12-23 v2
摘要
黑箱 AI (BBAI) 系统如基础模型正日益用于序列决策。为确保此类系统安全运行和部署，必须开发高效方法，以提供 BBAI 能力的可靠且可解释的表征。本文表明，PDDL 风格的表征可用于高效学习和建模输入 BBAI 的规划能力。该方法采用蒙特卡洛树搜索范式，系统性地创建测试任务、获取数据并修剪可能的符号模型的假设空间。所学模型描述了 BBAI 的能力、它们可被执行的条件以及执行它们后可能的结果及其关联概率。理论结果表明所学模型的正确性、完备性和收敛性。使用多个 BBAI 系统进行的实证结果揭示了所呈方法的范围、效率和准确性。
引用
@article{arxiv.2512.16733,
title = {Discovering and Learning Probabilistic Models of Black-Box AI Capabilities},
author = {Daniel Bramblett and Rushang Karia and Adrian Ciotinga and Ruthvick Suresh and Pulkit Verma and YooJung Choi and Siddharth Srivastava},
journal= {arXiv preprint arXiv:2512.16733},
year = {2025}
}