测量目标导向性
人工智能
2024-12-09 v1 机器学习
摘要
我们定义了最大熵目标导向性（MEG），一种在因果模型和马尔可夫决策过程中对目标导向性的形式化度量，并给出了计算它的算法。测量目标导向性很重要，因为它是关于 AI 危害的许多关注的关键要素。它也具有哲学意义，因为目标导向性是能动性的关键方面。MEG 基于逆强化学习中使用的最大因果熵框架的改编。它可以相对于已知的效用函数、效用函数的假设类或一组随机变量来测量目标导向性。我们证明了 MEG 满足若干理想性质，并通过小规模实验展示了我们的算法。
引用
@article{arxiv.2412.04758,
title = {Measuring Goal-Directedness},
author = {Matt MacDermott and James Fox and Francesco Belardinelli and Tom Everitt},
journal= {arXiv preprint arXiv:2412.04758},
year = {2024}
}
备注
Accepted to the 38th Conference on Neural Information Processing Systems (NeurIPS 2024)