我拥有99个问题，但FLOPS不是其中一个
计算与语言
2025-06-24 v2 人工智能
计算机与社会
摘要
大型网络部署的版图由超级计算中心主导，但它们极少共享关于所面临挑战的数据或见解。鉴于这种优势，我们在这一领域能找到哪些需要解决的研究问题？我们采用一种非传统的方法，从公开的计划入手，旨在为机器学习应用构建价值1000亿美元的数据中心。利用语言模型的扩展定律，我们发现此类数据中心可能承载的工作负载，并探讨在实现过程中可能遇到的挑战，重点放在网络研究方面。我们得出结论，构建数据中心并训练此类模型在技术上是可行的，但这需要新的宽域传输用于数据中心间的通信，采用多路径传输和新型数据中心拓扑用于数据中心内的通信，以及高速可扩展的网络和传输，为网络社区提供了丰富的研究议程。
引用
@article{arxiv.2407.12818,
title = {"I understand why I got this grade": Automatic Short Answer Grading with Feedback},
author = {Dishank Aggarwal and Pritam Sil and Bhaskaran Raman and Pushpak Bhattacharyya},
journal= {arXiv preprint arXiv:2407.12818},
year = {2025}
}