深层域无关学习的参数选择与神经符号方法

随着人工智能（AI）系统的发展，我们正迈向通用 AI：能够在 diverse 任务中表现良好、理解情境并快速适应新情景的系统。通用 AI 系统的核心挑战在于对相关域内的任务进行泛化，并对分布迁移保持鲁棒性。神经符号（NeSy）AI 通过桥接符号化和子符号化范式来解决这些挑战，实现可适应、可泛化且更具可解释性的系统。开发通用 AI 需要在域适应（DA）方面的进展，以使在源域上训练的模型能够有效泛化到未见的目标域。传统方法通常依赖参数优化和微调，由于高成本和灾难性遗忘风险，往往不够实用。NeSy AI 系统使用多个模型和方法以泛化到未见域，同时在不同条件下保持性能。我们聚焦于深层域无关学习，对常见的 DA 和 NeSy 方法进行分析，拓展到实践中的挑战，如适应持续变化的域和处理大范围域间差距。我们展示了针对样本有限场景的最新模型选择方法，并介绍无需梯度更新的域特定适应方案，以应对模型调优不可行的情况。本工作建立了一个适用于各种问题情景的可扩展且可泛化的通用 AI 框架，展示了如何通过符号推理和大语言模型构建可跨域和跨问题的通用计算图，从而为实际应用构建更具适应性的 AI 方法。