humancompatible.interconnect: 测试 AI 系统互连重复使用的属性
人工智能
2025-07-15 v1 系统与控制
系统与控制
摘要
人工智能 (AI) 系统常常与多个代理人交互。此类 AI 系统的监管通常需要满足某些公平性和鲁棒性的先验保证。鉴于代理人对 AI 系统输出的随机模型，这些先验保证需要对相应随机系统进行非平凡的推理。本文提出了一个基于 PyTorch 的开源工具包，用于在建模 AI 系统互连及其重复使用属性时应用随机控制技术。该工具以封闭环方式建模鲁棒性和公平性需求，并为这些互连提供先验保证。PyTorch 基于工具包消除了为封闭环模型的多代理系统提供公平性保证所涉及的大量复杂性。
引用
@article{arxiv.2507.09626,
title = {humancompatible.interconnect: Testing Properties of Repeated Uses of Interconnections of AI Systems},
author = {Rodion Nazarov and Anthony Quinn and Robert Shorten and Jakub Marecek},
journal= {arXiv preprint arXiv:2507.09626},
year = {2025}
}