物理化身的条件促成泛化与关怀

随着人工智能代理进入开放式物理环境——老年护理、灾难响应与太空任务——它们必须在不确定性下持续运行，同时提供可靠的关怀。然而，现有系统在分布迁移方面难以泛化，且缺乏保护他人福祉的内在动机。 vulnerability（脆弱性）与死亡常被视为需规避的约束，但生物体在开放式世界中能以轻松高效的方式生存并提供关怀。我们认为，泛化与关怀源于物理化身的条件：being-in-the-world（代理是环境的一部分）与being-towards-death（除非被抵消，代理趋向终止状态）。这些条件要求一种维持自身与最大化继续实现自身的未来能力的稳态驱动。在多代理环境中长期实现此驱动，需对自身与他人化身以及联合可实现的未来状态进行稳健的因果建模。由于化身的代理是环境的一部分，自身由可靠控制界定，赋能他人可扩大自身边界，实现他者关怀。这为从化身走向泛化与关怀提供了基于共享约束的路径。我们构思了基于强化学习的框架以探讨此问题。具备稳态驱动、持续学习且处于开放式环境中的死亡化身代理，或能提供高效的鲁棒性与可信赖的对齐。