基于共享主干和轻量任务特定适配器的高效多任务推理:面向自动评分
计算与语言
2025-06-24 v2
摘要
人工智能在教育领域的集成需要可扩展且高效的框架,在性能、可适应性和成本之间进行平衡。本文通过提出一种具有共享主干模型架构并增强以轻量 LoRA 适配器进行任务特定微调的框架,针对学生回答在 27 个互不相容任务上的自动评分。该框架在保持竞争性能(平均 QWK 为 0.848,与完全微调模型的 0.888 相当)的同时,将 GPU 内存消耗降低 60%,推理延迟降低 40%,显示出显著的效率提升。该方法与本次研讨会关注改进面向教育任务的语言模型、创建负责任的创新以实现成本敏感部署,并通过简化评估工作流程支持教育者的目标相吻合。这些发现概述了可扩展的人工智能如何在保持公平性和透明性的同时提升学习结果的潜力。
引用
@article{arxiv.2412.21065,
title = {Efficient Multi-Task Inferencing with a Shared Backbone and Lightweight Task-Specific Adapters for Automatic Scoring},
author = {Ehsan Latif and Xiaoming Zhai},
journal= {arXiv preprint arXiv:2412.21065},
year = {2025}
}
备注
Accepted by AAAI-iRAISE Workshop