去中心化神经网络中的元学习:迈向更通用的人工智能
机器学习
2023-02-27 v2 人工智能
分布式、并行与集群计算
摘要
元学习通常指从其他学习算法中学习的学习算法。神经网络预测中的不确定性问题表明,世界仅具有部分可预测性,且一个已学习的神经网络无法泛化到其不断变化的环境。因此,问题在于一个预测模型如何能够同时表示多个预测。我们旨在为去中心化神经网络(Decentralized NNs)中的学会学习提供基础性理解,并认为这是构建自主智能机器最重要的问题和前提之一。为此,我们将展示若干证据,说明如何利用去中心化神经网络中的元学习来解决上述问题。具体而言,我们将提出构建此类去中心化学习系统的三种不同方法:(1)从多个副本神经网络中学习,(2)为不同功能构建神经网络的层次结构,以及(3)利用不同的模态专家学习跨模态表示。
引用
@article{arxiv.2302.01020,
title = {Meta Learning in Decentralized Neural Networks: Towards More General AI},
author = {Yuwei Sun},
journal= {arXiv preprint arXiv:2302.01020},
year = {2023}
}
备注
Accepted for AAAI 2023 Doctoral Consortium