一种基于脑启发记忆转化的可微分神经计算机用于基于推理的问答
人工智能
2024-12-23 v2 计算与语言
摘要
推理与问答作为人类的基本认知功能,对当前人工智能而言仍是一大挑战。尽管可微分神经计算机(DNC)模型能在一定程度上解决此类问题,但其发展仍受限于算法复杂度高、收敛速度慢和测试鲁棒性差。受大脑学习与记忆机制启发,本文提出一种基于记忆转化的可微分神经计算机(MT-DNC)模型。MT-DNC 将工作记忆与长期记忆引入 DNC,并实现所获经验在工作记忆与长期记忆之间的自主转化,从而有效提取已学知识以提升推理能力。在 bAbI 问答任务上的实验结果表明,与其他现有 DNN 和 DNC 模型相比,我们所提方法取得了更优性能和更快收敛速度。消融研究也表明,从工作记忆到长期记忆的转化在提升推理鲁棒性与稳定性方面起着关键作用。本工作探索了脑启发记忆转化如何被整合应用于复杂智能对话与推理系统。
引用
@article{arxiv.2301.02809,
title = {A Brain-inspired Memory Transformation based Differentiable Neural Computer for Reasoning-based Question Answering},
author = {Yao Liang and Hongjian Fang and Yi Zeng and Feifei Zhao},
journal= {arXiv preprint arXiv:2301.02809},
year = {2024}
}
备注
There are some contents in the paper that need to be revised. We would like to withdraw the paper first and then submit it again