神经智能体中的注意图式
人工智能
2023-07-17 v3 机器学习
摘要
注意力已成为深度学习架构中的常见组成部分。它在权重所支持的静态信息选择之上，增加了动态的信息选择。同理，我们可以设想在注意力之上构建一种更高阶的信息过滤器：注意图式（Attention Schema, AS），即一种对注意力的描述性与预测性模型。在认知神经科学中，注意图式理论（Attention Schema Theory, AST）支持这种将注意力与AS区分开来的观点。该理论的一个强预测是，智能体可以利用自身的AS推断其他智能体的注意状态，从而增强与其他智能体的协作。因此，多智能体强化学习将是实验验证AST有效性的理想场景。我们探索了注意力与AS相互作用的不同方式。我们的初步结果表明，将AS实现为循环内部控制的智能体取得了最佳性能。总体而言，这些探索性实验表明，为人工智能体配备注意力模型可以增强其社会智能。
引用
@article{arxiv.2305.17375,
title = {Attention Schema in Neural Agents},
author = {Dianbo Liu and Samuele Bolotta and He Zhu and Yoshua Bengio and Guillaume Dumas},
journal= {arXiv preprint arXiv:2305.17375},
year = {2023}
}