基于深度强化学习的几何问题求解中图注意力机制的引入
计算机与社会
2024-03-25 v1 人工智能
计算与语言
机器学习
摘要
在在线教育的背景下，在自然语言理解和传统逻辑推理的赋能下，设计几何问题的自动求解器一直被认为是迈向通用数学人工智能（AI）的关键一步。在大多数情况下，问题是通过添加辅助组件（如线或点）来解决的。然而，由于选择合适辅助组件的复杂性，自动添加辅助组件具有挑战性，尤其是在必须做出关键决策时。最先进的性能是通过穷举类别库中所有可能的策略以识别出具有最大似然的策略来实现的。然而，必须进行广泛的策略搜索，以牺牲效率换取准确性。为了自动且高效地添加辅助组件，我们提出了一个基于语言模型（如BERT）的深度强化学习框架。我们首先应用图注意力机制来缩小策略搜索空间，称为AttnStrategy，它仅关注与结论相关的组件。同时，通过强制智能体选择顶级策略，提出了一种名为使用强化学习框架自动添加辅助组件（A3C-RL）的新算法，该算法将AttnStrategy和BERT作为记忆组件进行了整合。大量实验结果表明，与传统的MCTS相比，所提出的A3C-RL算法可将平均准确率大幅提高32.7%。此外，在中国年度大学入学数学考试的几何问题上，A3C-RL算法的表现优于人类。
引用
@article{arxiv.2403.14690,
title = {Incorporating Graph Attention Mechanism into Geometric Problem Solving Based on Deep Reinforcement Learning},
author = {Xiuqin Zhong and Shengyuan Yan and Gongqi Lin and Hongguang Fu and Liang Xu and Siwen Jiang and Lei Huang and Wei Fang},
journal= {arXiv preprint arXiv:2403.14690},
year = {2024}
}