神经网络中的关系组成：调查与行动号召
人工智能
2024-07-23 v1 机器学习
摘要
许多神经网络似乎将数据表示为"特征向量"的线性组合。用于发现这些向量的算法近期取得了令人印象深刻的成功。然而，我们认为，这些成功的不完整，除非理解关系组成：神经网络如何（或是否）组合特征向量来表示更复杂的关系。为促进这一领域的研究，本文提供了各种关系机制的导览，以及这些机制可能如何影响寻找可解释特征的初步分析。我们以一系列有前景的实证研究领域结束，这些领域可能有助于确定神经网络如何表示结构化数据。
引用
@article{arxiv.2407.14662,
title = {Relational Composition in Neural Networks: A Survey and Call to Action},
author = {Martin Wattenberg and Fernanda B. Viégas},
journal= {arXiv preprint arXiv:2407.14662},
year = {2024}
}