中文

协作即所需

机器学习 2025-04-21 v3 人工智能 神经与进化计算

摘要

超越“树突民主”,我们引入一种“局部处理器民主”,称为Cooperator。在此,我们将它们用于基于置换不变神经网络的强化学习(RL)时与基于Transformer(如ChatGPT)的机器学习算法的能力进行比较。Transformer基于长期存在的积分发放“点”神经元概念,而Cooperator的灵感来自近期神经生物学突破——表明精神生活的细胞基础依赖于新皮层中上下文敏感的锥体神经元,其具有两个功能上不同的点。我们展示,当用于RL时,基于Cooperator的算法比基于Transformer的算法学习速度快得多,即使两者参数数量相同。

关键词

引用

@article{arxiv.2305.10449,
  title  = {Cooperation Is All You Need},
  author = {Ahsan Adeel and Junaid Muzaffar and Fahad Zia and Khubaib Ahmed and Mohsin Raza and Eamin Chaudary and Talha Bin Riaz and Ahmed Saeed},
  journal= {arXiv preprint arXiv:2305.10449},
  year   = {2025}
}