Collage：基于自动放置的深度学习后端无缝集成

对高效且高性能部署深度学习（DL）应用的强烈需求推动了丰富 DL 生态系统的快速发展。为跟上这一快速进步，现代 DL 框架必须高效集成各种优化的张量代数库与运行时作为其后端，并利用这些后端生成尽可能快的可执行文件。然而，当前 DL 框架在集成每个新后端时需要大量人工投入与专业知识，却仍无法释放其全部潜力。鉴于 DL 生态系统快速演进的特性，这种手工方式常常拖慢各层级的持续创新：它使硬件厂商无法快速部署其尖端库，DL 框架开发者必须反复调整手写规则以适应库的新版本，而机器学习从业者则需等待新技术的集成且常遭遇不尽如人意的性能。本文提出 Collage，一种提供 DL 后端无缝集成的 DL 框架。Collage 提供富有表现力的后端注册接口，允许用户精确指定各类后端的能力。通过利用可用后端的规格说明，Collage 自动为给定工作负载与执行环境搜索优化的后端放置策略。我们的评估表明，在 NVIDIA RTX 2070 GPU、V100 GPU 和 Intel Xeon 8259CL CPU 上，Collage 相较各硬件上现有最佳框架平均分别提速 $1.26\times$、$1.43\times$、$1.40\times$。Collage 已开源并部署于 Apache TVM。