ISLE：一种面向医学影像高吞吐 AI 推理的智能流式框架
图像与视频处理
2024-07-25 v2 计算机视觉与模式识别
机器学习
摘要
随着临床环境中人工智能（AI）系统应用的增多，在流式传输影像数据时，带宽与算力的限制会造成通信瓶颈，导致患者护理延迟与成本上升。因此，医疗服务提供者与 AI 供应商将需要更庞大的计算基础设施，从而大幅推高成本。为此，我们开发了 ISLE，一种智能流式框架，用于大规模临床决策中高吞吐、算力和带宽优化且具成本效益的 AI 推理。在我们的实验中，ISLE 平均减少了 98.02% 的数据传输与 98.09% 的解码时间，同时将吞吐提升了 2,730%。我们表明，ISLE 带来了更快的周转时间，并降低了数据、传输与计算的总体成本，且不会对使用 AI 系统的临床决策产生负面影响。
引用
@article{arxiv.2305.15617,
title = {ISLE: An Intelligent Streaming Framework for High-Throughput AI Inference in Medical Imaging},
author = {Pranav Kulkarni and Sean Garin and Adway Kanhere and Eliot Siegel and Paul H. Yi and Vishwa S. Parekh},
journal= {arXiv preprint arXiv:2305.15617},
year = {2024}
}
备注
5 pages, 3 figures, 3 tables