面向未来解聚 AI 系统的下一代共封装光学
系统与控制
2023-03-06 v1 新兴技术
系统与控制
摘要
共封装光学有望在不久的将来解决 GPU 与 AI 加速器的互连带宽瓶颈。该技术可立即提升当今的 AI/ML 算力，以训练能执行更复杂任务的更大神经网络。更重要的是，共封装光学解锁了重新思考传统超级计算与数据中心架构的系统级新机遇。内存与计算单元的解聚正是此类新范式之一，其可通过提供低延迟与高吞吐性能大幅加速 AI/ML 工作负载，同时保持支持传统云计算应用的灵活性。本文简要概述共封装光 I/O 的技术现状及其下一代需求。我们还讨论了在解聚 AI 系统中利用共封装光学的思路与可能的未来方向。
引用
@article{arxiv.2303.01744,
title = {Next-generation Co-Packaged Optics for Future Disaggregated AI Systems},
author = {Sajjad Moazeni},
journal= {arXiv preprint arXiv:2303.01744},
year = {2023}
}