通用人工智能中的价值在无知情况下
人工智能
2026-03-13 v2
摘要
我们将 AIXI 强化学习智能体推广到更广泛的效用函数类别。将效用分配到每种可能的交互历史会迫使我们直面智能体信念分布中某些假设仅预测历史前缀的歧义，这有时被解释为等同于称为半测量损失的量的死亡概率。这一死亡解释suggests 为此类历史前缀分配效用的一种方式。我们认为，将信念分布视为不精确概率分布（即将半测量损失视为总体无知）更为自然。这激励我们考虑从不精确概率论中的 Choquet 积分计算期望效用的后果，包括对其可计算性水平的考察。我们恢复了标准的递归价值函数作为一种特殊情况。然而，我们最一般的在死亡解释下的数据期望效用不能被表述为 Choquet 积分。
关键词
引用
@article{arxiv.2512.17086,
title = {Value Under Ignorance in Universal Artificial Intelligence},
author = {Cole Wyeth and Marcus Hutter},
journal= {arXiv preprint arXiv:2512.17086},
year = {2026}
}