自然语言处理技术的演进：不止于语言处理，迈向通用人工智能

自计算机发明以来，通过自然语言（真实人类语言）进行交流一直是一项梦想中的技术。然而，自然语言极难用数学形式化，使其难以在不考虑编程的情况下作为算法实现。尽管已有众多技术发展，但可以说迄今为止尚未取得任何可自由利用的成果。以人类语言学习为例，无论是学习母语还是外语，必须承认该过程原则上类似于“熟能生巧”的谚语，尽管学习方法在一定程度上很重要。深度学习近年来在当代 AI 技术中扮演了核心角色。当应用于自然语言处理（NLP）时，这产生了前所未有的结果。据报道，通过使用深度学习学习大量文本数据，取得了超出初期预测的成果。例如，无需显式学习即可进行四则运算，从而能够解释复杂图像并依据相应说明文本生成图像。这正是学习者利用大量文本数据体现“熟能生巧”概念的准确例证。本报告从技术层面阐释了前沿 NLP 如何实现“熟能生巧”原则，并提供了其如何应用于业务的示例。我们曾于 2022 年 6 月以日文报道了 2021 年末至 2022 年初的 NLP 动向。由于这仅是通向当前大语言模型（LLMs）的初始动向，我们愿将其作为备忘录加以总结。